結局、人工知能の「本当の脅威」とは何なのか?

ケンブリッジ大教授が教えてくれた
金井 良太 プロフィール

AIの「恩恵」を考える

金井 AIの安全や倫理について、これまでもいくつか研究所――「Future of Life Institute」や「Future of Humanity Institute」など――が設立されています。CFIは、それらとどのような連携を図っているのでしょうか、また研究のテーマに違いなどがあるのでしょうか?

プライス教授 とても良い質問です。我々の実現したいことをどう伝えるかここ数ヵ月考えてきました。そこで気づいたのは、AIと社会についての議論が、安全性のことばかりに終始して、範囲が狭くなっていることです。

これは「コントロール問題」と言われるもので、AIが制御不能にならないようにするにはどうしたらよいかという問題です。しかし、この問題が解けたとしても、他の問題についてこれまで十分に注目してこなかったのではないかと感じています。

つまり、「たとえコントロール問題を解決したとしても、AIを開発していくことでたどり着く終着点には多数の可能性があり、その中には望ましいものとそうでないものがあるじゃないか」ということです。

何がAIのもたらす「恩恵」や「利点」すなわち「ベネフィット」なのかということを明らかにすることも大事で、ベネフィットを最大にするための最適な道筋を見つけていく必要があります。

そのための課題はたくさんあります。現時点では、全貌を把握している人はいません。問題はとにかく大きく、まだ十分な時間をかけて考えきれていません。

CFIの特徴だと考えているのは、AIの安全性だけではなく、AIが人類にもたらすベネフィットについて考えなければならないと主張してきているところです。ここに新たな挑戦があるわけです。

 

金井 なるほど。確かにそうですね。

プライス教授 それからもう一つ、他の団体との関係についてですが、関係は極めて近いです。CFIはケンブリッジに拠点がありますが、リヴァーヒュームが「スポーク」と呼んでいる衛星拠点がいくつもあり、ロンドンのインペリアル・カレッジ、オックスフォード大学、カリフォルニア大学バークレー校などと連携しています。

オックスフォード大学との連携により、オックスフォードマーティンスクールと、「Future of Humanity Institute」とは実質的に連携しています。バークレーのスチュワート・ラッセルを通じて彼がバークレーで主催する「Center for Human-Compatible AI(CHAI)」ともつながっています。

MITの「Future of Life Institute」とも密に連携しています。我々がCFI設立の提案書を描いていたとき、AIの問題は人類が共に直面するグローバルなチャレンジなのだから、この問題に取り組もうとしている団体や人々がバラバラのグループに分かれて活動するのではなく、可能な限り一緒に協力していくことが大事だと考えていました。このコミュニティが、国ごとや地域ごと、あるいは会社や研究所という単位でバラバラにしたくなかったのです。

ケンブリッジ大学がMITと競争し、アメリカが中国と競争するという状況は望ましくありません。可能な限り、派閥や組織ごとにわかれるようなことを避け、皆で協力していくようにしたいのです。他にも同じ問題に取り組もうという団体があれば、積極的に手を伸ばして協力体制を作っていこうと考えています。

(「『人工知能が仕事を奪う』は本当か?」につづく)