AIがブームで終わるかどうかを見極める「シンプルな方法」

「ゼロ原理」をご存知ですか?
金井 良太 プロフィール

金井:先ほどのウェイモはテスト運転を各地で始めてデータを集めていますね。

リプソン教授:もちろん、他の会社もどんどんテスト運転を通じてデータを集めているでしょう。

しかし、まだ政府による安全性の基準などができていないので、どの企業が一歩先を行っているのかというのは見極めるのが難しく、どの企業の技術が人間レベルに到達しているのか、あるいはすでに越えているのかを評価することができません。

金井:自動運転によるデータ収集は、個人情報などの観点からは倫理的な懸念もでています。歩行者も常に全ての自動車に見られているような社会になるのですから。

〔PHOTO〕iStock

リプソン教授:確かに自動運転は倫理的な課題として考えるべき点がたくさんあります。特に人間の安全と事故についての意思決定をAIに委ねることについても熱く議論されています。

それとは別に、自動運転車ではたくさんのカメラが大量の写真を撮っているので、個人のプライバシーに関する課題もでてきます。そのようなデータは自動車が運転を学習していくために記録しなければなりません。

さらに、セキュリティの問題もあります。自動運転システムはデータを扱いますが、通信に依存するところも多く、ハッキングを受けてしまうと大惨事に繋がることも予想されます。これにはしっかり対処法を考えていかなければなりません。

また、V2V(注:自動車同士のコミュニケーション)に私が反対しているのも、ハッキングのリスクが非常に高いからです。

それから、自動運転によるセンサーシップ、つまりある種の検閲のようなことが生じてしまう懸念もあります。これは気づいている人が少ないのですが、ひとたび移動がすべて自動運転に頼るようになってしまうと、政府や企業などの思惑によって、どこへいくかをコントロールされてしまう可能性もあります。

例えば、待ちの中の特定の場所を避けて移動するように仕組み、だれもその地域にはいかない状況も起こりうるわけです。そうなると、敢えて普通のルートからはずれようとしない限り、誰もそこにはいかなくなります。

そして、地図上にもなければ、そのような場所があることさえ知ることができなくなってしまいます。そのようなことはソフトウェア上では、比較的簡単にできてしまうのです。

同じように、人を特定の場所にいくようにソフトウェアに仕込むことも可能で、広告効果などの目的に行なわれる可能性はあります。

例えば、タイ料理が好きな人が、仕事の後にタイ料理のレストランに行こうとした場合、なぜか途中にある3軒のレストランを素通りして、特定のタイ料理屋に自動運転車が連れて行ってしまうこともありえます。自動運転は役に立つものでしょうが、悪用の仕方もたくさんあります。

 

金井:これはインターネットで話題になっているフィルターバブル(自分の好みのニュースばかりがソーシャルメディアなどで提供されることで、異なる意見に触れる機会が減って、世界を多様な視点でみる機会が失われてしまうという現象) が、物理的世界でも起きてしまうということですね。

リプソン教授:まさにそのとおりです。現実世界の移動におけるフィルターバブルができてしまう可能性があるということです。そうなると、世界の中に見えない部分ができてしまいます。

バーチャルな世界でも、フィルターバブルは望ましくない効果をもたらすことが知られています。これが現実の物理世界においても起きてしまう可能性があることには、気をつけておくべきでしょう。

金井:確かに、自動運転がこのようなリスクをはらんでいるとは気づいていなかったので、これは面白い視点です。