AI

山中伸弥さんが羽生善治永世七冠に聞いた「AIと将棋の未来」

「棋士という仕事はなくなりませんか」
山中 伸弥, 羽生 善治 プロフィール

暴走するAI

羽生 そういう意味では、今後、私たち人間は「知能」とか「知性」をもう一度定義しなおさなければならなくなるかもしれません。

人類の歴史は「高い知能を持っているのは人間だけ」という前提でここまで来ました。でも将来、AIのIQが三千とか一万になると言われています。すると、その前提が崩れるかもしれません。

「この分野でAIは人間以上のことができる」とか「これは人間にはできても、AIにはできないだろう」といった議論をしているときに、「では人間が持つ『高い知能』の知能とは、いったい何なんだろう?」とあらためて考えざるを得なくなると思います。

でも「知能とは何なのか」と問われると、結局わからない、という結論にたどりついてしまいます。人間には「実現はできるんだけれど説明できない」とか、「実際に思っていることや感じていることでも、すべてを言葉で表現することはできない」といった分野があまりにも多く残されているように思います。

山中 まさにブラックボックスですね。

 

羽生 ただ、AIの進化によって人間の知能と対比するものが出てきたことになりますから、人間の知能の姿をあぶり出す可能性はある気がします。これまでは比較する対象がなかったので、「知能とは何か」については答えが保留されていましたが、AIという比較対象を得たことで、「知能とはこういうものだったのか」と人間の知能の本質にアプローチできる可能性が出てきました。

「人間の知能の正体を探究していけば、人間の知能と同じようなAIを作ることができるはずだ」と考えて研究している人たちも、かなりいます。

山中 AIと人間が協力し合う世界では、どういう可能性が生まれるんでしょうか。

羽生 そこに私は関心があります。たとえば、アメリカでAIを活用した防犯パトロールの事例があります。全米でも犯罪発生率が高い街のことです。人員も限られているため、犯罪の発生地域や頻度などさまざまなデータを基に、AIに「今日、どこにパトロールに行けばいいか」を決めてもらったそうです。

ベテラン警官が「なぜ犯罪なんか絶対に起こりそうにない閑静な住宅街に行かなきゃいけないんだ」と言いつつ、AIの指示通りにパトロールに行くと、なぜか怪しい人がいて、まさに犯行に及ぼうと……。結果的に犯罪発生率が劇的に低下したそうです。

SF映画の『マイノリティ・リポート』を思い出しました。AIが「殺人を犯す」と予知した人間を事前に逮捕するようになっているという、ある意味とんでもない近未来社会を描いています。

山中 でも、それも荒唐無稽と笑っていられませんね。

羽生 そうなんです。現在のAIは民間企業が開発しているので、ある時期まで基本的に開発プランは公開されず、あるとき、「こんなものができました」と世の中に発表される形ですね。

そういう状況では、AIの開発について、社会が新しい規準や新しい倫理をつくるといっても、どうしても現実のほうに先を越されて後手に回ってしまいます。そして、その規準や倫理を誰が、どこで、どういう形で決めるのか、その枠組みすらできていない段階では、極めて漠然とした話になるのでは、とも思います。

データがある世界では、AIは人間の経験値を超える結果を生み出す可能性があります。ただ、それが絶対かと言われると、絶対ではないわけです。そのとき、先ほども言った「ブラックボックス問題」、結果はうまく行っているけれど、そのプロセスが誰にも見えない状況を人間の側が受け入れられるかどうかが問われます。

理屈としては理解できなくなって、AIが出した結果なり結論なりを信じるか信じないか、ただそれだけの話になってしまう可能性もあります。でも人間は人間なりに考えたり、発想したりすることを捨ててはいけない、やめてはいけないと思います。