人工知能が「意識を持てるか」という超難問に答える

100年後の世界に向けた哲学
金井 良太 プロフィール

金井:意識の研究者の間では、意識の機能が何であるのかということが議論になります。ここでは、意識を持つことでロボットが自分の未来について、実際に行動せずに「想像する」ことが意識の機能だと考えているようですね。

この機能があれば、まったく初めて体験する場面に出くわしてもある程度、想像力によって適切な行動ができますね。

リプソン教授:そのとおりです。これが進化においてどれだけ有利に働くかは明らかでしょう。しかし、このような機能にはコストもあります。つまり、自己のモデルやイメージを獲得するためには、非常に発達した脳や神経系が必要となります。

それによって得られる利点が、将来のシナリオを頭のなかでシミュレートし、実際にそれを経験しないでもそこから学び行動の計画を立てることができることです。エンジニアもこれと同じことをシミュレーターを使ってやっています。

飛行機を作るときには、実物を作るかわりに、シミュレーター上でデザインして機能を確認します。自分自身のシミュレーションができると、実際の身体を使っての試行錯誤の必要性を減らすことができるのです。

エンジニアならば誰もがよく知っていることですが、シミュレーターの価値は、複雑で高価なモノを作るときにとくに発揮されます。複雑な飛行機のような場合には、実機による試行錯誤で欠陥を見つけるのは難しく費用も高額になってしまいます。

バクテリアのような単純な生物が自己意識をもっていないのも偶然ではありません。そのために必要な生物的基盤が備わっていないのです。しかし、バクテリアの個体の生存期間や経験する環境の観点から、そのような機能はコストの方が大きくなってしまいます。

一方で、サルなどの霊長類では、個体の生存期間も数十年と長く、それぞれが成長し学習するのにコストがかかっているので、未来を予測し自己のシミュレーションをおこなう能力を持つほうが割に合っています。

 

AIとシミュレーションの断絶

金井:現代のAIのデザインには、このような自己シミュレーションの考え方はどれくらい取り入れられているのでしょうか。

リプソン教授:AIの研究者はシミュレーションを常に使っています。ロボットは最初にシミュレーターの中で学習してから、現実世界へと移行します。

ある意味では意外でもあるのですが、AIの研究者はAIに外の世界についてはたくさん学ばせるのですが、自己について学ばせることはあまり考えていません。

つまり、シミュレーションは技術者によってあらかじめ組み込まれており、その世界において機械学習のアルゴリズムは世界の認識能力を獲得します。しかし、AIをシミュレーターを作るためにはあまり使っていません。

この断絶には歴史的な理由があります。AIはこれまでコンピューターサイエンスの人が作ってきたため、物理的な実証実験をあまり重要視してこない傾向がありました。一方で、シミュレーション(自己シミュレーションを含む)は物理系を基礎としたエンジニアが作ってきたので、AIは使われずに発展してきました。

金井:しかし、最近では、ニューラルネットワークを使って生成モデルを学習させるような手法が非常にホットなテーマとなっています。生成モデルの学習は自己のモデルの学習やシミュレーションに使えるのではないでしょうか。

リプソン教授:もちろん生成モデルは利用可能です。意識を作るためには、現在外界をモデル化するために使われているAIの手法が役に立つのではないかと考えています。

これまで発展してきた学習機能を内側に向けることで、これまではエンジニアがプログラムを書いてきたような、自己シミュレーションを走らせる能力を獲得するようなAIを作ることができるでしょう。