結局、人工知能の「本当の脅威」とは何なのか?

ケンブリッジ大教授が教えてくれた
金井 良太 プロフィール

曖昧になる人間とAIの境界

金井 あなたが所長を務めているCFIですが、どのような経緯で設立されたものでしょうか。

プライス教授 ことの始まりは2014年の秋のことです。今から、2年半ぐらい前ですね。

その後、2015年の1月のプエルトリコでの会議をオーガナイズするのに、当時は CSER(プライス教授が所長を務める「Centre for the Study of Existential Risk」というケンブリッジ大の研究所)として関わっていました。

その会議では、アカデミアとテクノロジー業界の人たちを集めてAIについて議論することを目的としていました。

 

金井 プエルトリコの会議はとても有名ですが、現在のAIの安全性に関する議論はそこで始まったと考えてもよいのでしょうか?

プライス教授 それ以前にまったく議論がなかったわけではないですが、プエルトリコでの会議は非常に重要だったと思います。ちょうどそのころ、AIに関する議論は注目を集め始めましたし、スティーブン・ホーキングやイーロン・マスクといった人たちが、ニュースのヘッドラインを騒がせていました。

イギリスで私たちが関わっていた人たちの間では、AIがある種の流行になってきているという感覚がありました。非常に多くの人たちが急にAIに興味を持ち始めていましたから、この興味をもっとも意味のある方向へとしっかりと舵取りができるように協力できる体制を作ろうと考えました。

その時点で、我々のグループを束ねるために、AIに特化したなんらかの研究所のようなものを作ってはどうかという話が始まっていました。当時は、CSERや他の団体はありましたが、AIには特化していませんでした。

金井 AIに特化しているということですが、CFIは「知性の未来(フューチャーオブインテリジェンス)」と言っており、「AIの未来(フューチャーオブアーティフィシャルインテリジェンス)」ではないですよね。なぜ、「AIの未来」ではなく「知性の未来」と名付けたのでしょうか。

プライス教授 それにはいくつかの答えがあります。まず、名前は短い方が良いということです。もうひとつは、将来、人間とAIの境界は、なんらかの理由で曖昧になっている可能性があります。

例えば、人類はAIを使って自分たちの知的能力を高めているかもしれません。未来において、人間の知性をどのように位置づけるのかということも考えておかなければなりません。こういった理由で、「知性の未来」と呼んだ方が良いと考えました。

金井 CFIではどのような課題にむけて、どのような規模で研究を行っているのでしょうか?

プライス教授 基本的な目標は、コミュニティを作ることです。そして、AIの問題について関心と技術をもつ数多くの専門家を多様な学術分野から見つけ出すことを目指しており、AIの活用法に特化しているわけではありません。CFIの組織構成は、コミュニティの構築を大きな目標として設計しています。

主なファンディング(資金)としては、リバーヒューム財団から、10年間で1000万ポンド(約15億円)の支援を受けています。そのうちの約60%は、ケンブリッジ大学で利用し、残りの40%は他の3つの連携機関で利用しています。