「超知性」が人類を滅ぼす日は来るのか〜欧米人が真正面から危惧している文化的理由
当代最強の囲碁棋士に挑戦した人工知能「アルファ碁」は、事前の予想を覆し、圧勝した〔photo〕gettyimages

TEXT 池田純一

 「超知性」の誕生が人類を滅ぼす!?

この3月、Google DeepMindが開発したAI(人工知能)であるAlphaGoが、当代最強と言われる囲碁のプロ棋士の一人に勝利し、世界中から注目を集めた。

AIがボードゲームのプロに勝つという話は、たとえば1997年にIBMのDeep Blueがチェスのチャンピオンに勝利するという前例がすでにあった。しかし囲碁の場合は、同じボードゲームといってもチェスや将棋よりも複雑なゲーム運びが可能であり、その複雑さゆえにAIでの対処は困難であると考えられてきた。

AlphaGoの開発者たちは、その困難さに、社名のDeepMindにも託されたDeep Learning(深層学習)というアルゴリズムを用いることで打ち勝ち、AI開発史に残る偉業を成し遂げた。

すでに多くの報道がなされているように、Deep Learningは、脳の神経回路網にヒントを得たものであり、その特徴は「学習」能力にある。つまり、AlphaGoというソフトウェア自体が、練習として対局を繰り返すことで学習し、最終的には人間のプロ棋士を負かすまでに自らを鍛錬したことになる。

AlphaGoで記憶すべきことは、この「学習能力」にある。そして、この学習能力をもつAIが、勤勉にも「自学自習」を繰り返すことで、人間の知性をも凌駕してしまった時に現れる存在、それが「超知性(Superintelligence)」である。

この超知性(SI)は、「効果的な利他主義(Effective Altruism:EA)」を扱った前々回(http://gendai.ismedia.jp/articles/-/47959)の最後で、イーロン・マスクやピーター・ティールらシリコンバレーの住人が、EAに注目する理由の一つとして紹介したものだ。彼らの関心の要点だけを記せば「超知性の誕生」は「人類絶滅の危機」を含意する。

とはいえ、いきなり「超知性」や「人類絶滅」などといわれても面食らうばかりだろう。

その「超知性」について、順を追って理解するためのよき手引となるのが、マレー・シャナハンの『シンギュラリティ』だ。副題に「人工知能から超知能へ」とあるように、同書では人工知能=AIから超知能=SIへの経路が丁寧に解説されている。

著者のシャナハンは、ロボット研究者であるため、単にソフトウェアとしてのAIプログラムだけでなく、それらがロボットとして具体的な「身体」を持った場合まで想定し、SIとしてAIが人間を凌駕する事態に至るシナリオを記している。