近い将来、人工知能も「学校」に通うことになるだろう

汎用人工知能の可能性と課題
金井 良太 プロフィール

「AIの限界」を乗り越える

金井 GoodAIは、あなたが個人的な資金で始めたということででこのように野心的な研究に集中することが可能なのかもしれませんが、ビジネスでの実用的な人工知能の応用というのにも取り組んでいるのでしょうか?

マレック はい。実は数ヵ月前に新しく「GoodAI Business」というものを始めました。そこでは、いま研究開発に取り組んでいる研究者の技術を活かして、顧客のビジネスの課題の解決に応用しています。そして、すでに数社から仕事を受けており、我々の開発した新たなAI技術が活かせるようにしています。

最初は研究のみに集中しようと考えていたので、これは当初は予定していませんでした。しかし、最初に自分自身で出資した資金だけに頼るのではなく、途中の段階でも収益を上げられるようにしたいと考えるようになりました。

それだけではなく、ビジネスへの応用を考えることで、研究にフィードバックできるところがあります。それに、他の企業に新たな価値をもたらすことができるのは素晴らしいことです。

そして汎用人工知能の開発が進み、現在のディープラーニングを超えたものがでてくれば、もっと莫大な利益をもたらすことが可能になると考えています。

金井 その研究と応用を両立するというスタイルは、まさに我々がやろうとしていることと一緒ですね。

我々の場合は特に初期の10億円という資金もないので、ビジネスでの価値を作りながら、同時に研究もやるというスタイルを取らざるを得なかったわけですが。

そういう意味では、GoodAIでもビジネスでの応用をして、そこから学ぼうとしているというのは面白いです。

ビジネスでの応用という観点では、現在のディープラーニングというのは十分に役立つのでしょうか。

マレック 一部のビジネスでの応用では十分に役に立つものだと思いますが、しかし限界がどのへんにあるのかということも理解しておかなければならないでしょう。現時点で簡単に利用可能だと思える場面での限定した使い方を考えています。

それから、AIのビジネス応用としては、失敗したときのコストが小さい領域を選んでいます。たとえばAIが間違えたときに100人の人が死んでしまうような確率が高い場面では、AIは絶対に使いません。

それよりは甚大なエラーがあったとしても誰にも危害がないような場面で使おうと思います。例えばゲームの中の空間です。昔ながらのAIではなく、新しい適応的なAIをゲームの空間で作ってみて、それが大失敗したとしても、大した問題にはなりません。

一方、自動運転で事故を起こしたら人に危害が加わるので、絶対にミスができません。

金井 では、今は現実の課題に人工知能を使うには安全性にはまだまだ問題があるということでしょうか。

マレック まだまだ自動運転の分野などでは安全性について懸念はあると思います。今後の課題は、自動運転車などの利用者にたいして、自動運転の限界を適切に説明することが必要になると思います。

自動運転車を購入した消費者は、自動運転車では何もしなくても大丈夫だと説明を受けたとします。そうすると、消費者は自動運転車がどういう仕組で動いているのかという、メタモデルを頭のなかでイメージします。

しかし、その思い込みが実際の自動運転のアルゴリズムとは一致していないため、想像と現実では挙動が違ったというシチュエーションが生じます。

私のクルマにもちょっとした自動運転の機能がついていて、レーンクルージングなどしてくれますが、たまにそれが思ったとおりに機能しないことがあって、びっくりすることがあります。だから100%完全に信頼してしまうのはいまのところ危険です。

しかし、一般の人の中には、21世紀の自動運転車なのだから、自分ではなんにもしなくて良いだろうと思ってしまう人もでてくると思います。だからといって、後部席でのんびりしていたら木にぶつかってしまうなんてことも十分ありえるわけです。

金井 こういったAIの限界は、汎用人工知能ができたら乗り越えることはできるでしょうか?

マレック はい、今のディープラーニングを使った方法での視覚システムは、人間の視覚とは随分ちがうものです。

例えば、道端に立っている人がいたら、人間ならばその人が飛び出してきそうか、ただ友達と話しているだけなのかといった判断を感覚としてできてしまいますが、ディープラーニングではそういった微妙な感覚がありません。

人工知能が人間として育っていきてきたという経験がないために、人間の行動が理解できないのです。