結局、人工知能の「本当の脅威」とは何なのか?

ケンブリッジ大教授が教えてくれた
金井 良太 プロフィール

惑星レベルでの歴史転換

金井 では、短期的・実質的な課題の対処は難しくないと考えてもよいのでしょうか?

プライス教授 ここでは、ひとつ付け加えておかなければなりません。先ほど挙げたような実質的な課題というのが短期的に存在するのは、間違いありません。

しかし、短期的な問題だけを考えることに集中してしまっては、だれも長期的な問題について考える人がいなくなってしまうという別のリスクがあります。

私たちが考えるCFIの重要な役割は、長期的な問題についてもいまのうちから考えておかなければならないということを、多くの人々に伝え続けることです。テクノロジーが今後も予想通りに発展していけば、人間の生き方はずいぶん違ったものになるでしょう。

その瞬間がいつなのかわかる前から、長期的な可能性について考え始めなければならないのです。将来、人類は非常に高度なAIと同じ地球の上で暮らしていくことになるのです。これは「惑星レベルでの歴史的転回」とも呼べる大変革です。

そして、このような変革は地球上で一度きりのことでしょう。その時代へ突入する際、良いやり方も悪いやり方もあるでしょう。

私たちはその時に向けて、良い方に持っていけるように今から対策を練っておきたいのです。そうすることで、多くの可能性の中から、最も素晴らしい未来を迎えられるようにしたいのです。

 

金井 人類の知性を上回る汎用AIの実現可能性については多様な意見があるようです。機械学習の研究者の中には、そんなにすぐに汎用AIが実現しないと考えている人も多くいます。

そのような人は、まだ現存しないテクノロジーのリスクについて大真面目に議論する必要はないのではないと考えているかもしれません。このような反応については、どのようにお考えでしょうか?

プライス教授 それには、ふたつのポイントがあります。ひとつは、驚異的なAIの出現について、もともとは「将来、確実に起きるとは言い切れない」という意見だったのが 、いつの間にか「将来、確実に起きないと確信している」という意見にすり替わってしまうことがあると思います。

このふたつはまったく意味が違いますが、この分野の著名人のプレゼンテーションを聞いていると、途中でこのように主張が入れ替わっていることに気がつくことがあります。

当然、すぐには起きないだろうというのは十分に考えられます。私が知っているとても尊敬している人たちの中にも、今世紀中には起きないだろうと考えている人もいます。

例えば、私のとても尊敬しているサセックス大学のマギー・ボーデンです。彼女はイギリスにおけるAIと認知科学のパイオニアとして知られています。マギーは今世紀中には人間レベルのAIはできないだろうと考えています。

それにも関わらず、彼女は私たちがCFIで考えようとしているAIの課題について考えることは非常に重要だと考え、たとえ確率が低かったとしても、ここで話しているようなことは、前もって考えておくべきだと言っています。

そしてもう一つ。あらゆる立場の人から意見を聞くことができるようなコミュニティを形成することが重要です。

最近のソーシャルメディア上での政治ニュースなどもそうですが、インターネット上で、我々は同じ意見の人とつながる傾向があり、自分と異なる意見に触れる機会が減ってきています。

この分断された状況は危険だと思います。