まるで『名探偵コナン』…遂に誕生した万能「変声機」の凄さと怖さ

聞けば、きっと誰もがダマされる…
小林 啓倫 プロフィール

悪用防止の対策はあるものの…

GANについては、以前フェイクニュースに関する記事でも取り上げたことがある。簡単に説明すると、目標とするコンテンツを自動生成するAIと、そのコンテンツが本物かどうか見破るAIを用意し、その間でコンテンツ生成と真偽鑑定の「競争」を何千何万回と繰り返させることで、より自然で本物に近いコンテンツを生成できるようにするという手法である。

GANはいま、映像コンテンツ生成の分野で大きく注目されており、その威力を見せつけるものとして、同じくオバマ前大統領をサンプルとした(なぜか彼はデモの素材として人気らしい)有名なフェイク動画がある。

この中で偽のオバマ氏は、「キルモンガー(映画『ブラックパンサー』に登場する悪役)は正しい」「トランプ大統領は大バカ者」など、本物がまったく言いそうにないセリフを口にしている。

そのため彼をよく知る人であれば、「何かおかしい」というフェイクの可能性を疑うことだろう。しかし彼の性格や表現のスタイルについてよく知らないという場合は、これがフェイクかどうか見破るのは至難の業に違いない。

そうした高品質のフェイク映像をつくり出せるAI技術を活用しているのが、Modulateのサービスというわけだ。となれば悪用が心配されるところだが、当然ながら同社もそのような使い道は推奨しておらず、たとえばオンラインゲームなどで使用するアバターに好きな声を喋らせるといった活用法を想定しているそうである。

 

最近は他のユーザーとマイクを通じてコミュニケーションできるオンラインゲームも増えているが、いくらアバターを可愛らしい女性にしても、野太い声では自分が中年男性だとばれてしまう(もちろんその逆のパターンもあるだろう)。そこでアバターを自分好みに着飾るのと同様に、声も好きなようにカスタマイズできれば、というわけだ。

また同社の技術を報じたMIT Technology Reviewの記事によれば、Modulateでは実在する人物の声のコピーを要求された場合、コピーされる人物の許可を得ていることを証明するよう求めるそうである。

また自社技術で生成された声だとわかるように、音声データ内に「デジタル透かし」を入れ、後からチェック可能にすることにも取り組んでいるそうだ。確かにこうした対策を取ることで、一定の悪用防止にはなるだろう。

しかしこれで、フェイクニュースならぬ「フェイク音声」の被害を防止できるのだろうか。