君が犯罪に走る確率は…米警察で導入「犯罪予測アルゴリズム」の功罪

ビッグデータ革命の憂鬱
堀内 進之介 プロフィール

〈FinTech〉は、中国でも急速に拡大している。中国最大手の電子商取引企業アリババ・グループを筆頭に、〈FinTech〉が登場したことで、低所得者層や若年層などの「金融マイノリティ」も金融サービスを手軽に利用できるようになった。

中国の調査会社艾瑞諮詢(iResearch)の調査によれば、たとえば、銀行以外の異業種が提供する決済サービス、いわゆる「第三者決済」の取扱高は、2018年には約 23兆元(約 460兆円)を突破しており、2014年から 2018 年までの年平均成長率は30%にも達する。

資金調達や資産運用を必要としながらも、その機会に恵まれなかった人びとからすれば、〈人〉を対象とする予測アルゴリズムは、多くの便益をもたらすものだと言える。

こうした技術は金融取引に関わる人物を徹底的に分析することで、その人物の未来の動向や状態を予測することで成り立っている。

賢明な読者は、直ちに次のように理解したのではないだろうか――なるほど。つまり、目下、静穏な暮らしをしている私が、5年後に首が回らなくなる確率が予測され、それでもそのとき返済可能な金額だけが、いま、私に貸し出されるというわけだね、と。

 

その通りだと言いたいが、金融業の方が一枚上手だ。どういうことか。

周知のとおり、金貸しの利益の源泉は利息である。回収できなくなるのは大問題だが、かといって、簡単に返済できる金額だけを貸し付けていたのでは、ぶんどれる利息も少なく、利益も少ない。したがって金融業は、借り手がどうにかこうにか、少しずつ長期に返済されるギリギリの金額を貸し付けた方が、利息が増えて、利益も大きくなる。

もうお分かりの通り、金融業界の予測アルゴリズムは、この金額をはじき出す。「生かさず殺さず」の貸付額が、あなたの手元にやって来るのである。

photo by iStock

未来を予測する手掛かりとして過去の莫大なデータが利用され始め、「ビッグデータ革命」が進行するなか、何かとその利点が強調されがちだ。金融取引の例で言えば、お金を借りたい人にとっては、返済可能な最大額がはじき出せるだろうし、金融業者もその方が利益は大きのだから、〈FinTech〉は、互いにWin-Winではないかといった具合だ。

「判断の基準」は知らされない

しかし、懸念されるべき問題も多数ある。どういうことか説明しよう。

犯罪予測や予測的ポリシングが治安の維持や回復に貢献し得ることは確かだろう。しかし、そのとき、「判断の基準」は明らかにされることがない。

活用されているアルゴリズムのプログラムコードや、分析対象となるビッグデータ、統計上の中央値や平均値はどのようなものなのか、あるいは、分析結果に基づく評価の基準はどうなっているのかは、私たちにはまったく知らされていないのである。それらは企業秘密だからだ。

たとえば、なるべく早くローンを返済しようと、良く言えば節約を、悪く言えばケチった生活をしている場合、そうした努力が反映された購買履歴を基に、予測アルゴリズムによって、財政難に陥っていると誤って判断され、結果、ローンの借り換え時に金利が上昇するという羽目になることも考えられる。

しかし、私たちには、そうした誤認が起きていることさえ、まったく知ることが出来ないのだ。

さらに、複数の信用調査機関が活用している予測アルゴリズムは、すべて同じだと言うわけではない。当然、評価基準も異なっている。だから、ある信用調査機関では信用評価が高くても、別の信用調査機関では信用評価が低いということもあり得る――実際、このようなバラつきがあることは、米国消費者連盟(CFA)および全米信用報告協会(NCRA)の調査によって、明らかにされている。