君が犯罪に走る確率は…米警察で導入「犯罪予測アルゴリズム」の功罪

ビッグデータ革命の憂鬱
ビッグデータとアルゴリズムの組み合わせによって、ある人が「犯罪者になる確率」を予想できるシステムが、シカゴ警察で導入されている。
たしかに治安は改善するかもしれない。しかし、そこには思わぬ落とし穴がある。システムが差別を助長し、再起の可能性を奪って行くーービッグデータ社会の「暗部」が見えてきた。

ビッグデータで「犯罪者候補」が明らかに

普段通りの生活を送っていると、ある日、突然警察官がやってきて「このままだと余生を塀の中で過ごすことになるぞ」と警告される。

またある人は、「生活環境を変えないと大変な被害にあいますよ」と忠告される。

しかし、当人たちには、心当たりも身に覚えもまったくない――。アメリカの大都市シカゴでは、いま実際にこんな経験をする人たちがいる。

アメリカという国は、犯罪の「予防」に強く力を入れてきた。1994年、ニューヨーク市警は、戦略管理システム、通称「CompStat」という技術を導入した。

過去の犯罪データを収集・分析することで、犯罪者の標的となる確率の高い〈場所〉を特定する技術だ。特定した場所に警備を増やせば、犯罪の発生を抑制できる。こう聞けばなんだか未来感が漂うが、実際にこの技術が導入されたのはずいぶん前のことだ。

photo by iStock

そこから20年余りが経過した現在、予測の対象は〈場所〉から〈人〉へと進化した。

監視カメラの履歴データや、職業、年齢、学歴といった人々の多種多様なパーソナルデータなど、より多くのデータが分析対象になり、情報処理技術が高度化したことによって、「人」・「物」・「場所」の関連性を予測できるまでになった。

つまり、いまや私やあなたが犯罪者や被害者となる確率が、相当な根拠を持ってはじき出されるようになったのだ。

冒頭の、突然警察官によって警告や忠告がなされる事例も、上述の技術的進歩の成果の一つだ。

シカゴでは、シカゴ警察が、ビッグデータと「予測アルゴリズム」によって、将来、誰が犯罪者や被害者となる蓋然性が高いのかを「Heat List」と呼ばれるリストにまとめている。

そして、その対象となった人びとに対して、犯罪リスクを警告したり、職業訓練や住宅供給などの社会的サービスについて告知したりしているのである。

 

顔認証システムが「未来の犯罪者」を探し出す

このような分野は、「犯罪予測(crime prediction)」ないしは「予測的ポリシング(predictive policing)」と呼ばれている。

この分野の進歩はすさまじく1994年当時とはもはや次元が違う。

特定の人物が重罪を犯す可能性を、性別、目や肌の色、交通違反や軽犯罪を犯した回数、刺青の有無といった個人情報を分析対象としつつ、合理的な精度をもって予測するアルゴリズムも、すでに開発されている。このアルゴリズム開発の指揮を執ったのは、現在はトヨタ・リサーチ・インスティテュートの副社長を務めるJim Adlerだ。