photo by iStock

もはや見破ることは不可能…?AIで深刻化するフェイクニュース

何が本当で何が嘘か分からなくなる

米大統領選の裏でボットが暗躍

すっかり米トランプ大統領の決め台詞になってしまった感のある「フェイクニュース」。

今年6月のG7(主要国首脳会議)の際も、トランプ大統領は他国の首脳と対立しているのではないか、という米国メディアの報道に腹を立て、「フェイクニュースを一掃しよう!(Please clear up the Fake News!)」という勇ましいツイートを投稿している。

ただフェイクニュースは、単なる煽り文句や、メディアリテラシーの次元を超えた広がりを見せている。

そこではもはや、私たち人間は脇役でしかない。実はフェイクニュースをめぐる戦いで主役を演じているのは、高度に発展したAI(人工知能)たちなのだ。

この戦いにおける一方の当事者は、人間を装い、さまざまなテキストをネット上で自動投稿するプログラム「ボット」である。

プログラムに文章を書かせようという試みは、古くから行われている。たとえば1966年には、米MITのジョセフ・ワイゼンバウム教授が、人間とテキストで「会話」するソフトウェア「ELIZA(イライザ)」を開発している。これは現在のチャットボットの原点とも言えるプログラムだ。

プログラムが書いた文章を自動でネットに投稿できるようにすれば、それで「ボット」の一丁上がりとなる。長い文章の場合でも、ゼロから自動生成しなくても、あらかじめ用意された文章を単純なルールで表示させるだけで、意外なほど人間らしさを醸し出すことができる。

実際、前述のELIZAも、簡単なルールで決められた文章を表示するというものでありながら、人間と会話している気分になるユーザーが続出した。

そのためこうしたやり方で、ツイートしているのが人間なのではないかと誤解させるボットが登場するようになり、2009年には「twitterでずっと仲良くしていた人がbotだった」というブログ記事が話題を集めている。

 

そのボットが、あらためて大きな注目を集めることになった出来事が、2016年の米大統領選である。

当時、トランプ候補に有利な世論を生み出そうと考えた人々によって、無数のボットが開発され、それがツイッターをはじめとしたSNS上に大量のテキストを投稿した。

特に問題視されたのが、ロシアが開発したボット。これによって、大統領選の結果が外国によって左右されてしまったのではないかというのだ。

事実、米上院の調査結果によると、2016年9月1日から11月15日にかけて、ロシアのボットがトランプ候補のツイートを約47万回もリツイートした。一方でクリントン候補に対するリツイート数は5万回に満たなかったそうである。