Photo by iStock

AIが絶対に人間を超えられない「根本的な理由」を知ってますか

機械は「神」になり得るか?

AIが人間を超える知性をもつ、AIで多くの人の仕事が奪われるーーそんな議論が盛んになって数年。空前の「AIブーム」は、どんな結末を迎えるのか? 一部の人が夢見る「シンギュラリティ」はやってくるのか?

こうしたAI議論の過熱に「待った」をかけるのは、『AI原論』を著した元エンジニアで情報学者の西垣通氏だ。今回、日本でもっとも注目される哲学者のひとり、立命館大学准教授の千葉雅也氏と西垣氏の対談が実現。第一部に続き、AIが「知性」たり得るか否かについて、議論は白熱してゆく…。

 

AIは猫を「知っている」のか?

西垣:最近流行っている深層学習のニューラルネットワークという考え方は、実は1950年代や60年代からありました。自己符号化1というやり方を使って現在の深層学習は行われているんですが、そのアイディアももう80年代からあって、そんなに新しいものじゃないんです。

当時はものすごく計算時間がかかるから全く実用化できなかったんですが、2010年代になり、サーバーをいっぱい使って、ようやく実用化できるまで計算能力があがって、注目されているだけなんですよ。

千葉:要するにAIというものは単なる計算過程で、その計算は言ってしまえば、何の意味もないものです。それは統計的な計算なわけですが、計算でとにかく何らかの結果を出す。その結果がどうやら人間的な意味の世界と対応するようだ、ということで実用性が担保されている。

それは結局、どこまで行っても「量」の世界ですよね。しかし今では、「計算能力の爆発的な向上」というクオンティティ上の変化が、まるで「質」、クオリティの問題に踏み込んでいるかのように言われている。実際は計算量が増えているだけなのに、それがまるで人間の質的思考に代わるようなものをコンピュータが帯び始めたかのような幻想を引き起こしている。

西垣:今、幻想とおっしゃいましたよね。賛成です。しかし、幻想ではないと言う人もたくさんいるんですよ。量の変化というものは質の変化をもたらす、とね。

深層学習というのは、パターンの特徴入力がいらない。ご承知の方も多いと思うんですが、例えば世界には色々な物がありますね。ビンもあるし机もある。そういう物のパターンを認識するためには普通、例えばビンを認識するためには、ここは丸くなっていて、こことここは対称になっていて…とか、そういう特徴を記述していって、それを集積してようやく認識する。この記述が大変だったんですね。

ところが、深層学習の場合にはそれをせずに、コンピュータがダイレクトに世界をいろんな「似たもの同士」で分類してしまうわけです。

千葉:大量のデータを与えると、その中から勝手に答えが浮き上がってくる。「教師なし学習」ですね。

西垣:はい。ところで「教師なし学習」と言われると、なんとなく「コンピュータが事物を理解してるんじゃないか」という感じが出てくるじゃないですか。

千葉:でも、実は「行きあたりばったり」が収束しているだけなんですよね。

西垣:GoogleのAIは、猫を認識することに成功しました。あれは16台のプロセッサを備えたコンピュータを1000台くらい用意して、3日間計算しつづけたそうです。人間なら小さい子供でもたちまち認識できるのですが、そういう大掛かりな計算でようやく認識した。でもものすごくセンセーショナルなニュースで、「ついにAIが猫という概念をつかんだんじゃないか」と言われたわけです。

しかし、そう簡単じゃないんですよ。例えば犬だったらどうでしょう。

犬って、外見が猫よりも多様ですよね。ブルドッグもいれば狆(ちん)もいるし、大きさもいろいろで、いろんな顔をしてる。そうすると、我々人間が犬という概念を捉えるとき、これは単に表層的なビジュアルが似たものをグルーピングしているのではなくて、もっと生物学的な、あるいは文化的なものから犬の概念を導き出しているわけです。

でもコンピュータは、似た形のものをグルーピングしているにすぎない。そのグルーピングが人間とぴったり一致していれば便利なんですが、全然見当違いのこともいっぱいあります。

千葉:実際に、画像認識で、人間が思いもつかないような分類がされてしまうのが面白い、みたいなことがアートに応用されていますよね。つまり、AIの分類は意味を生成するためのものではなく、どこまでいっても無意味なプロセスですが、それが人間から見るとちょっと面白い、ということがあるわけですね。

西垣:囲碁や将棋の最強はAIになっていくと言われますね。あれは身もふたもないことを言うと、当然です。AIは盤面上の配置を一つの状態、「ステート」と見ればいいわけですから、このステートの数が有限であれば、原理上、コンピュータの計算能力が上がれば人間はコンピュータには絶対に勝てません。それはもう大昔からわかっていることなんです。

2016年、Googleの「AlphaGo」が韓国囲碁界最強の李世ドル九段を破った(Photo by gettyimages)

例えば詰将棋を考えてみると、ゴールである「詰んだ状態」からさかのぼって、現在の状態までいく一つ一つの道筋を全部計算してたどる。超高速で計算して、見つかった手筋で最短のものを使えばいい。そうしたら、人間は絶対に勝てません。せいぜい引き分けです。だから、人間の名人がAIに負けたという話はそんなにショッキングじゃないんです。

千葉:有限状態ゲームの場合は、勝負は単に「時間の問題」になるということですね。

西垣:ええ。囲碁や将棋は状態数が天文学的なので、局所最適化しかできず、人間が勝つことはまだありますが、量子コンピュータなどでもっと計算能力があがれば時間の問題です。ですから、人間が負けるようになったからといって、「AIが人間より賢くなった」なんて言うのは、私に言わせれば、ちょっと違うんじゃないかと。

ただ面白いのは、やっぱり人間って、直感で「この手が最善だ」というのを見極める道筋みたいなものを持っていて、それが定石と言われるようになったわけですね。人間がまだ見つけていない、「定石みたいなもの」をAIが見つける可能性はあるんですよ。

1)自己符号化:機械学習におけるアルゴリズムの一種。AIにあるデータを学習させる際、そのデータの特徴を抽出する作業を何度も繰り返させることで、最も適切にデータを再現できるような特徴を抽出させる。