君が犯罪に走る確率は…米警察で導入「犯罪予測アルゴリズム」の功罪

ビッグデータ革命の憂鬱
堀内 進之介 プロフィール

なんでも、その予測アルゴリズムは、人物に関する膨大な情報の中から、重罪を犯す確率の高い人物として5万1246人を特定したそうだ。驚くべきことに、この5万1246人は、ここ40年近くの間に、ケンタッキー州で実際に重罪を犯したとして有罪判決を受けた人びとだったのである。多少の「偽陽性」――2220人に関して重罪を犯すと誤って予測した――はあったが。

さらに、このような技術は、司法の現場でも活用が始まっている。アメリカの一部の州では、再犯予測システム「COMPAS」が、刑事裁判中の被告人の犯罪歴、雇用状況、教育レベル、家族の犯罪歴、信条を含む 130 以上の情報を分析し、再犯リスクを 10 段階で評価している。その評価結果は裁判官に提出され、判決の参考にされているのである。

 

ところで、写真の中の顔を判別して人物を特定する「顔認証技術」を、すでに利用している人は少なからずいるはずだ。この技術は、入国管理やテロ対策の場面でも活用されている。

こうした技術は、防犯カメラに映る顔を判別し、「過去」に犯罪歴のある人物や「現在」不審な行動をとっている「既知の人物」を集団の中に発見するためのものだと思っている読者は多いのではないだろうか。

しかし、それではこの技術のポテンシャルを理解したことにはならない。

顔認証技術も、上記の〈人〉を対象とする予測アルゴリズムと組み合わされると、単に犯罪歴のある「既知の人物」を「発見する」のではない、それ以上のことが可能になる。

仮に、シカゴ警察が導入した予測アルゴリズムなどによって、私が「犯罪者になる可能性が高い」と判定されていたとしよう。

その判定結果が私の顔のデータと紐づけられ共有されていれば、たとえば、どこかの会場で、監視カメラが私の顔を捉えると、犯罪予測システムはアラームを鳴らして会場の管理人に注意を促すことだろう。そうなれば、管理人は、私のことを何も知らなくても入場を拒否したり、マークしたりするようになるはずだ。

photo by iStock

要するに顔認証技術は、それまで犯罪と無縁だった人びとの中からも、今後罪を犯す可能性の高い人物を――アラームが鳴った時点では「疑わしい人物」を――捕捉したり、管理したりする手段になるわけだ。

フィンテックもメリットだけではない

このような〈人〉を対象とする予測アルゴリズムは、行政分野だけではなく、金融の分野でも革命的な変化を起こしている。ビッグデータと予測アルゴリズムが進歩するなか、Finance とTechnology を融合させた〈FinTech〉と総称される企業やサービスが、近年、急速に台頭してきていることは周知の事実だ。

たとえば、1994 年にバージニア州に設立されたCapital One 社は、それぞれの顧客が債務不履行に陥るリスクを、予測アルゴリズムを用いて割り出し、そのリスクに見合った金利及び使用限度額を設定したクレジットカードサービスを提供している。

そして、それにより業界平均より 60~75%高い不良債権額の抹消に成功した。いまでは6500 万以上の顧客口座を有する巨大な金融機関に急成長を遂げている。