2045年、人工知能の「シンギュラリティ」で人類は滅びるか?

AIが増幅する人間の「脆弱性」
茂木 健一郎 プロフィール

人工知能には「常識」がない

「ペーパークリップ最大化知能」は、ペーパークリップの生産を最大化するためにありとあらゆる手段を用いるから、次第に人類の文明を破壊していく。

自然の中にあるものを材料にすることはもちろん、建物でも、自動車でも、道路の舗装でも、ペーパークリップをつくる上で役に立つものはすべて破壊し、分解してしまう。それどころか、人間でさえ、材料にしたりエネルギー源にするために「利用」してしまう

 

やがて、「ペーパークリップ最大化知能」は、地球上をペーパークリップだらけにしてしまう。もちろん、人類はとっくの昔に絶滅している……。

このような記述を読むと、「そんな馬鹿な」、「非現実的だ」と思うだろう。その通りである。実際に、馬鹿らしい。地球上の物質をすべてペーパークリップにして、何の役に立つというのだろう。

しかし、私たちがそのような判断ができるのも、「常識」があるからである。そのような「常識」がない「ペーパークリップ最大化知能」は、とにかくペーパークリップの生産を最大にすることしか考えない。それが唯一の評価関数だからである。

人工知能の軍事利用の危険性

高度に発達した人工知能をきっかけに人類が絶滅に瀕する可能性はいろいろとある。

例えば、中国の武漢から全世界に広まったとされる新型コロナウイルス(SARS-CoV-2)のような病原体が、人工知能によって設計され、生物兵器として使われるかもしれない。

多くの識者が指摘しているように、SARS-CoV-2はウイルスとして(悪い意味で)「よくできている」。

SARS-CoV-2(photo by iStock)

ウイルスのような病原体は、宿主を死に至らしめる力が強すぎると、他人に感染する前に消滅してしまう。かと言ってすべて軽症で終わるのならば、人間社会に大きな影響は与えない。

SARS-CoV-2 のように、ある人たちは軽症のまま歩き回り、気づかないうちに他人に感染させ、別の人たちは重症化するというようなウイルスが、人間に与えるインパクトでは一番大きい。

今回のウイルスは野生動物から人間に感染したもので、人工的につくられたものではないとされるが、将来的には感染力や潜伏期間、重症化の確率などを巧みに設計して「生物兵器」として用いる国、勢力が出てこないとも限らない

ワクチンの開発には時間がかかるが、あらかじめ病原体のウイルスとワクチンをセットで用意しておくこともできる。

ある勢力がウイルスとワクチンを開発し、自分たちにまずはワクチンを打っておいてからウイルスを撒き散らすような行為に出ないとも限らない。

未知のウイルスの他にも、ますます重要性を増しているサイバー空間の中での攻撃や、人やモノの移動の監視、タイミングのよいフェイクニュースの創出による人心の混乱など、現時点では想像もできないようなかたちで自分と敵対する国、地域の社会情勢を破壊する方法が人工知能を用いて考案されるかもしれない

関連記事

ABJ mark

ABJマークは、この電子書店・電子書籍配信サービスが、著作権者からコンテンツ使用許諾を得た正規版配信サービスであることを示す登録商標 (登録番号 第6091713号) です。 ABJマークについて、詳しくはこちらを御覧ください。https://aebs.or.jp/