「AIは人間を超える」なんて、本気で信じているんですか?

哲学の視点から語る「科学の限界」
西垣 通, 千葉 雅也

「機械は人間のように考えられる」のか?

千葉:つまりその世代のシステムは、正しいエビデンスと正しい推論に基づいて、全て正しい論理の連鎖を組み立てて答えを出すシステムだったわけですね。

まさに、いくつかの患者さんのパラメータから病気の症状を導き出すといった試みは、現在の第3次AIブームでもやろうとしていることですよね。現在は論理処理だけでなく、より統計的なアプローチでそれをやろうとしている。

西垣:おっしゃるとおりです。80年代の第2次ブームのとき生まれたエキスパートシステムにも残っているものもある。「ある程度間違っていても、まあまあ合っていればいい」という応用分野にかぎっては、今も使われているんです。例えば「列車の運行速度を制御する」というものだと、多少の誤差があってもそれなりに動けばいい。

ただ、当時、出発点としては「AIとは絶対的な真理を自動的に実現する機械である」というパラダイムでしたから、それでブームがしぼんじゃったんです。一方で第3次ブームがなぜ成功しているかというと、今おっしゃった通り、統計誤差を容認するというアプローチを使っているからです。

千葉:それが大きな発想の違いですよね。

 

西垣:第2次ブームの時も、例えば自動翻訳は色々な試みがありました。私の周囲の技術者や専門家も、いろんな工夫をしていたんですが、なかなか上手くいかないんですね。というのも人間の翻訳家は、色んな要素を組み合わせながら総合的に訳すわけです。ある文をどう訳すのが正確かということは、全体的な文脈で決まりますから。そういうことを、昔はあまり考えなかったから失敗した。

しかし現在は「コーパス」、つまり用例ベースといって、日本語の文と英語の文の組み合わせがインターネット上に膨大にあるから、その用例をデータベース上で統計的に調べて、ある組み合わせの中で統計的な頻度をとって、一番確率が高いものを出してやれば当たるんじゃないか、という発想ですよね。

千葉:Googleが無料で提供している様々なサービスは、まさにそういう言葉の用例の対応関係を膨大な数、収集するためにあると言ってもいいわけですよね。

西垣:全くその通りです。「絶対に正しい答えを出す」という理想を捨てて、「まあまあ合っていればいい」と。実際に、医者も自分の経験に基づいて推測しているわけですから、そう考えると統計的な処理というのは必ずしも悪い戦略ではないんですよ。

千葉:むしろ人間が自然にやっていることを、すごくたくさんのデータについて高速でやる、という考え方でやっている。

西垣:今の第3次ブームのAIは完全にそうです。いわゆる「ディープ・ラーニング(深層学習)」も全くそうですね。統計的に世界を分類する。

しかし、ここからが本題なのですが、統計を活用するのはいいんだけど、それでもって「機械も人間のように思考できるんだ」「機械も正しい判断を下せるんだ」と言い出した人たちが少なからずいるんです。この言葉の妥当性については、やっぱりちゃんと考えなければいけない。

Googleのニューラルネットワークが作り出した建物の画像

千葉:西垣先生の本はそういう、「AIが最も公正な判断をする」とか、下手をすると「世界のジャスティスを司る」とか、さらに「人間の知性を超える」というようないわゆる「シンギュラリティ仮説」3——それで国の予算をとってくるような人たちもいるみたいですが——というものに対して、哲学と情報学をつなぎながら疑問を突きつける、という内容ですね。

西垣:シンギュラリティを語る超人間主義者(トランス・ヒューマニスト)の代表はカーツワイル4ですが、超人間主義者たちの本を読むと、人間の知能を代替するだけじゃなく、もっと何か深遠なものを機械が実現してくれるんだ、と考えているような節があるわけですよ。彼らのその夢って、いったいなんだろう、ということに興味があったわけです。それを探求してみたい。

3) シンギュラリティ仮説:「技術的特異点仮説」とも。指数関数的に進化を続けたAI・人工知能が、ある時点から「自分で自分を再帰的に改良・強化できる能力」を身につけた場合、そこから先は人類の知能を超えるばかりか、自らの能力を爆発的に進化させることも理論上は可能になると考えられる。そのような画期を、宇宙論における「特異点(通常の物理法則が通用しなくなる空間上の一地点)」になぞらえた呼び方。

4) レイ・カーツワイル(Ray Kurzweil):1948年生まれの米国の発明家、未来学者。マサチューセッツ工科大学在学中にコンピュータ会社を設立、電子楽器開発などに携わる。2005年に著書の中でシンギュラリティ仮説について詳しく述べ、シンギュラリティ論の第一人者と目されるようになった。

関連記事