近い将来、人工知能も「学校」に通うことになるだろう

汎用人工知能の可能性と課題
金井 良太 プロフィール

人工知能も学校に通う?

金井 汎用人工知能ができたら、自動車が自発的に動き出してしまうということはないでしょうか?

マレック 汎用人工知能の振る舞いは、それをどういう風なバイアスをもって育てるかによってコントロールすることができます。我々人間が期待したとおりに行動するAIを作りたいときには、そのようにAIを訓練して育てれば良いのです。

一方で、自分自身の目標をもった完全に自律的で独立した汎用人工知能を作ろうと思ったら、AIが世界を我々と同じように認識できるようにさせる必要があります。

そうすることで人間とAIがお互いを理解できるようになり、誤解による大惨事を避けることができるようになるでしょう。そのためには、独立型の汎用人工知能の学習に適したカリキュラムを用意する必要があります。

そして、人工知能だけではなく、人間の方もカリキュラムを組んで訓練する必要があります。汎用人工知能の訓練には、現代の人工知能開発で使われているようなたった1つの目的関数について最適化するような学習方法ではうまくいかないでしょう。

そういうものを作ろうとしたら、非常に複雑なものとなってしまうでしょう。そして、作ったとしては近似的なものであって、正確さを欠いたものとなるでしょう。

だから、自動運転でよく話題になるトロリー問題(トロッコ問題)も1つの目的関数を最適化するというアプローチからの発想で、人間だって倫理的ジレンマの問題は解けないのです。人間にわからない倫理の問題は、人工知能では解けるわけ無いでしょう。

金井 自動運転用の人工知能も教習所のようなものに通わなければならないというのは面白い考えです。「人工知能の学校」というのをあなたは提唱していましたね。

マレック 「人工知能の学校」では、視覚情報の認識や自然言語処理などの基礎的な能力の獲得もありますが、倫理や道徳もそこで人工知能に教え込む必要があると思います。そうすることで、AIも倫理的な判断ができるようになるでしょう。

金井 おもしろい話、ありがとうございます。

スタートアップで挑戦する理由

金井 では、最後の質問です。GoodAIをスタートアップとしてやっていますが、汎用人工知能という研究分野において、大学や研究所ではなく、スタートアップとして研究をすることのアドバンテージ・ディスアドバンテージはなんでしょうか?

僕自身、イギリスの大学での職を捨ててスタートアップという形で研究をします。また、こういうやり方は世界中で増えてきています。

マレック スタートアップの利点は、目的を決めたらそれに徹底的にフォーカスできることです。そして、全ての行動をその目的にむけて最適化することができます。

我々の場合は、「汎用人工知能をできるかぎり早く創る」と目的がはっきりしています。アカデミアと違って、目的は論文を出すことでもないし、引用数を増やすことでもありません。専門家としての承認をうけることを目標にしているからではないからです。

こういった、目的から外れたことに気を取られる必要がないので、最短の方法で目的に近づいていくことができます。これが1つの利点です。

もう一つは、これは変な感じがするかもしれませんが、スタートアップの場合は、使える資金が有限で決まっています。我々の場合は期限が10年と決まっています。それまでに目的を達成できなかったら、お金はそこで尽きるので終わりです。

こういったプレッシャーは自分たちにとって有益です。時間がいくらでもあって、資金も潤沢だという状況では、のんびり研究してしまって進みが遅くなってしまいます。

GoodAIを3年前に始めたのは良いタイミングでした。当時はゲームからの収益もたっぷりあり、AIブームが始まる前でした。しかし、現在ではゲーム業界の様相も変わってきていて、以前ほど利益を上げるのは簡単ではなくなってきています。

人工知能を扱う会社の数も世界的に激増し、競争も厳しくなっています。これは私自身にとってはプレッシャーではありますが、それ故にもっと前に進まなければと思う原動力となっています。

スタートアップでは、何もかもを自分で選ぶことができます。普通の会社や大学だったら、部署が変わってしまったりすることがありますが、自分の選んだ人とチームを組んで長期的に働くことができます。だから、プロジェクトが途切れることがないのです。

そして、スタートアップでは成功したら、ミリオネアやビリオネアになる可能性もあるわけです。それもまたスタートアップの魅力です。

金井 こういう風に、大きな目標にむけて大きなリスクをとる人が増えてきたら世の中面白くなりますね。本日はお話ありがとうございました。