もはや見破ることは不可能…?AIで深刻化するフェイクニュース

何が本当で何が嘘か分からなくなる
小林 啓倫 プロフィール

フェイクを投稿するAI、見破るAI

SF作品であれば、映画『ターミネーター』シリーズよろしく、ここで正義のロボットが登場し、不正を暴くところだ。実はボットによるフェイクニュース投稿に関しても、AIによって自動的に摘発できないかという研究が行われている。

ロンドンに拠点を置くスタートアップ企業『ファクトマタ』が開発しているのが、まさにそのようなAIである。奇しくも彼らは、ツイッターの共同創業者であるビズ・ストーンからの資金提供を受けており、この分野で注目企業のひとつとなっている。

通常、この分野では、書き込みが疑わしいものかどうか、メタデータ(どのようなアカウントが書き込んだのか、いつ書き込まれたのか、同じ内容が連投されていないかなどの属性データ)で判断することが多い。

 

一方でファクトマタのAIは、ソーシャルメディア等に書き込まれた文章を自然言語処理で解析し、書かれている内容が事実と一致しているか、信頼できるソースから発表されているものかを判断するとしている。

つまり通常の報道機関で行われている「ファクトチェック(事実確認)」に近いことをしているわけだ。

ただ、スパムメールの例からも明らかなように、こうした取り組みはイタチごっこになりがちだ。ボットを仕掛ける側も、より見破られにくい、より人間らしい文章を投稿するプログラムを開発してくるだろう。

あるいは対策が取られるまでのタイムラグを狙い、瞬間的に世論を誘導して、あとは「自然な」議論の盛り上がりを促すという攻撃方法も増えてくるかもしれない。フェイクニュースという戦場においては、「AIの軍拡競争」が懸念されるのである。

本物にしか見えないCG

これはただの杞憂ではない。すでにAIにも見破ることが難しいフェイクコンテンツをつくる技術が、映像の分野で登場している。

キーワードは「GAN(Generative Adversarial Networks、競争式生成ネットワーク)」と呼ばれるAI技術だ。

2017年に、グーグルが開発した囲碁プログラム「AlphaGo(アルファ碁)」が碁の世界トップ棋士を破ったことで、同プログラムに使われていた「ディープラーニング」と呼ばれるAI技術が話題を集めたが、GANはそのディープラーニングの力をさらに進化させるものとして期待されている。

「百聞は一見に如かず」(皮肉なことにこの諺を否定するコンテンツになるのだが)ということで、まずは次の映像を見てほしい。

映像に登場する人物は、どこから見てもオバマ前大統領にしか見えない。しかし彼は、「キルモンガー(映画『ブラックパンサー』に登場する悪役)は正しい」「トランプ大統領は大バカ者」など、オバマ前大統領がまったく言いそうにないセリフをスラスラと口にしている。

彼は単なるそっくりさんなのだろうか、それともオバマ前大統領が洗脳されてしまったのであろうか?

もちろん答えはそのどちらでもない。前述のGANを駆使して制作された、言うなれば「本物にしか見えないCG」だ。ネタばらしをしなければ、まさにフェイクニュースとして大勢の人々を騙せるかもしれない。