2045年、人工知能の「シンギュラリティ」で人類は滅びるか?

AIが増幅する人間の「脆弱性」
茂木 健一郎 プロフィール

人工知能は、人間の「脆弱性」を増幅する装置

軍事技術は、対立の下で、その開発がエスカレートしやすい。どちらも生存上の他の文脈で役立つかどうかを無視して相手を出し抜こうとするため、イギリスの数理生物学者のロナルド・フィッシャーが提案した性淘汰におけるランナウェイ淘汰のように、暴走してしまう。

その結果、軍事技術は、クジャクの羽のように、生存する上では大きな負担になった
り、意味がなかったりしても維持されるということになりかねない。

 

敵を破壊するために生物としてのバランスを完全に崩した兵器まで構想する人類の能力は、ある意味ではすぐれているし、別の意味では本能が狂っている。

「終末兵器」は、人類だけでなく、地球上のすべての生物を死滅させる仮想の兵器である。これまでに、さまざまな終末兵器が考案されてきた。熱核反応によって放射性元素であるコバルト60を大量に放出し、その放射線で地球上に生物が棲めなくし
てしまうというのもその一例である。

人工知能は、人間がもともと持っている脆弱性を増幅する装置だと言ってもよい。お互いに攻撃してしまうのは人間の悲しい性質であるが、科学技術が発達する前は、そのような攻撃性はそれほどエスカレートしなくて済んだ。

しかし、今や全面核戦争が現実の可能性となり、人工知能がさまざまな兵器の開発に応用され、また兵器そのものに取り入れられてしまうかもしれない状況では、全人類どころか、全生命の生存の危機につながっている

「フェルミのパラドックス」が示唆する人類の危機

イタリアの物理学者のエンリコ・フェルミが指摘したので「フェルミのパラドックス」と呼ばれている不思議な事実がある。

宇宙のさまざまなところで生命が誕生し、そのうちの一部分は人類のように知性を進化させ、文明を発達させるだろうと推定されるのに、なぜ、地球には「宇宙人」は来ていないのか? たとえ物理的に到達していないとしても、その活動のシグナルが漏れ伝わってきたり、あるいは積極的なメッセージが届いたりしないのか。

フェルミのパラドックスを説明する仮説はいくつかある。その中で有力なものの一つは、生命体が科学技術を発達させて文明がある段階に達すると、全面核戦争のような存在論的危機が顕在化し、やがて絶滅してしまうというものである。

過去に人類が繰り返してきたさまざまな愚行をふりかえっても、また、近年の人工知能を含む文明の進展がもたらしている不安定性を考えても、科学技術を発達させた知的生命体はやがて絶滅するという仮説は荒唐無稽なものとは思えない。

宇宙の各地で誕生、進化しているかもしれない知的生命体の中で、人類だけが特別な存在だとは思えない。もし、「フェルミのパラドックス」が知的生命体全体の一般的な寿命の短さの結果だとすれば、ここまで文明を発達させた人類もまた、絶滅への道を歩んでいるのかもしれない

イーロン・マスクがSpaceXで火星を目指そうとしているのも、人類の地球上での絶滅の可能性を見越して、人口を分散させるためだという。

イーロン・マスク(photo by gettyimages)

TEDを始めとする国際会議で、マスクは真顔で「人類の分布を拡散することでリスクを避ける」というような話をする。それを聴衆が真剣に聴いている。

そのような光景が出てきているのも、人類にとって存在論的危機がそれだけ迫真のものになってきているからかもしれない。

人類はいつかは絶滅し、その歴史は終わるのかもしれない。このようなものの見方、考え方に、キリスト教の「最後の審判」のような信仰を背景とした西洋社会特有の「終末論」が投影されているのかどうかということは興味深い問題である。

そこには人工知能の「神学」が見え隠れする。

関連記事

ABJ mark

ABJマークは、この電子書店・電子書籍配信サービスが、著作権者からコンテンツ使用許諾を得た正規版配信サービスであることを示す登録商標 (登録番号 第6091713号) です。 ABJマークについて、詳しくはこちらを御覧ください。https://aebs.or.jp/