「超知性」が人類を滅ぼす日は来るのか〜欧米人が真正面から危惧している文化的理由

池田 純一 プロフィール

イーロン・マスクが危惧すること

けれども、ここで気にかけたいのは、むしろこうした荒唐無稽な破滅に向けたシナリオが、西洋社会ではなぜ大真面目に大人の間で議論されてしまうのか、ということの方にある。

というのも、単に一人二人の科学者や、あるいは技術者の集団だけが、このテーマに惹かれているわけではないからだ。

政治経済や社会文化を扱うメディアでも広く取り上げられている。イーロン・マスクやピーター・ティールといった、現在のシリコンバレーをリードする投資家やビジョナリの間でも議論が交わされ、そこからOpenAIのような動きまで生じている。OpenAIは、マスクを中心に、AIの研究成果を広く一般に公開することを目的に2015年12月に設立された非営利法人(non-profit corporation)である。

AI研究については、AlphaGoを開発したGoogleや、Watsonを開発中のIBMだけでなく、Facebook、Apple、Amazon、Microsoftといったウェブの中核企業が皆、強い関心を示し研究開発を進めている。

そんな中マスクが怖れるのは、人類絶滅を左右するかもしれないテクノロジーが特定の人物/企業によって占有されることにある。

彼は、電気自動車事業であるTeslaでもパテントを公開しており、イノベーションの効果が社会全域に広く行き渡ると期待できる状況を維持し、何か問題が生じた時に第三者でも介入できる余地を残しておくという点で「オープン」を推奨している。研究開発の成果の独占や局所化への懸念から、科学者の善意だけに頼るのではなく、AI研究そのもののオープン化を進めようとしている。

そこで、マスクやティールがAIについて気にかけるのが、人類絶滅のシナリオが関わるところだ。そして、この「人類絶滅」というシナリオをめぐってAI/SIとEAが交差することになる。

これも前々回(http://gendai.ismedia.jp/articles/-/47959)に触れたように、功利主義的発想に基づくEAの考え方では、「地球を全体として考える」点で人類全体を見渡す「宇宙の視点」を採用しており、未来における最悪の事態を考慮に入れる点では「帰結主義」であった。そうしたEAの考え方がAI/SIの未来にも適用される。

まずは破局となる事態を想定して、そこから遡ってその原因となる要素を可能な限り取り除こうとする。その繰り返しである。

未来のある時点での破滅や絶滅を想定する思考様式自体は、「ドゥームズデイ(最後の審判)」や「アポカリプス(黙示録)」といったヘブライズム(ユダヤ=キリスト教)由来の世界観に依拠したものと見ることもできる。

あるいは、破滅シナリオを想定することで「想定外」の危機的未来を回避しようとする発想は、『聖なるものの刻印』などのジャン=ピエール・デュピュイの著作にも見られる考え方だ。

デュピュイが「賢明な破局論」と呼ぶ考え方によって、未来と現在の間に仮想的なループが形成され、破局的未来の想定が現在を変えることに繋がる。フランス人の哲学者であるデュピュイは、パリのエコール・ポリテクニークを経て、スタンフォードで教鞭を執っていた。

このように「人類絶滅」を想定する発想にはユダヤ=キリスト教の未来観が影を落としている。こうした未来観が、SFや冗談で終わらないのは、ビジョン(空想)と現実社会を架橋する役割を担うシリコンバレーの起業家や投資家がしっかりと組み込まれているからだ。