君が犯罪に走る確率は…米警察で導入「犯罪予測アルゴリズム」の功罪

ビッグデータ革命の憂鬱
堀内 進之介 プロフィール

権利の侵害にどう対応するか

では、対策はどうするのか。

個人に関して言えば、過去の履歴をいつまでも利用され続けないようにする、何か法的な権利を持てるようにすることも必要だろう。

いわゆる「忘れられる権利」はそうしたものの一つだろうが、さらにそれを拡大して「過去を利用されない権利」といったものも、今後必要とされるのではないか。

ここでは詳しく解説しないが、先ごろヨーロッパで施行されたEU一般データ保護規則(GDPR)も、ビッグデータ革命が、私たちの基本的な権利や自由を侵害しないようにするためのものだ。

 

しかし、これらも完全なものではない。なにせ、こうした法律は、基本的に何か不当な目にあっていること、つまり権利が侵害されたり、尊厳が冒されていることを、当の本人が知っていてそれを回復するためのものだからだ。

以上で述べた事例からもお分かりの通り、そうした不当な扱いは、私やあなたの知らないところで起こる可能性がある。私たちがいまどのよう評価され何が失われているのか、それすら知らないまま、しかし表面上は体裁よく扱われるとき、私たちが失っているものの中には、異議申し立てするチャンスも含まれているのだ。

それゆえに、私たちの基本的権利や基本的人権を実効的に守ろうと思うなら、私たち個々人の権利侵害や尊厳毀損の自覚の有無にかかわらず――つまり親告罪に限定されない形で――対処可能な社会的な対策を講じる必要があるだろう。

私は、その一つは、予測アルゴリズム自体や運用者を監査する第三者機関(あるいはタスクフォース)を設立することだと思っている。

そして、その第三者機関の是正勧告に法的な強制力を与えることのできる、かつ、行政機関や民間企業に予測アルゴリズムの開発や活用を明らかにする義務を負わせうる、そうした法律の整備を進めることが不可欠だと思うのだ。