AI ロボット IoT

話題のAIスピーカー「アレクサ」に思わぬ弱点があった

まさかのセキュリティ・ホールが発覚
小林 雅一 プロフィール

スマート・デバイスの数は地球人口を上回る

こうした陥穽がもたらす潜在的な被害は甚大だ。

米国の調査会社Ovumの推定によれば、2021年までにはアマゾンの「アレクサ」やアップルの「シリ」、あるいはグーグルの「アシスタント」など、音声操作機能を搭載したデバイス(端末)の総数は地球上の全人口を上回る見込みという。

本来、スマート(賢明)であるべき、これらのデバイスがこんな単純なトリックに騙されてしまうようでは、今から先が思いやられる。

 

それはまた、音声操作にとどまらない。たとえば自動運転車がビデオ・カメラで撮影した外界映像(イメージ・データ)を解析して、他のクルマや歩行者、障害物などを認識する際にも、こうした人工知能(ディープラーニング)は使われている。

この場合も音声信号と同じように、本来の映像信号(画像データ)に微弱なノイズを重ね合わせるだけで自動運転車(に搭載されたAI)を騙すことができる。つまり私たち人間の目には制限速度「時速40キロ」と映る道路標識でも、自動運転車には「時速120キロ」と見えているかもしれないのだ。

バークレイ校の研究者らによれば、以上のような研究成果は現時点で実験室内でのデモにとどまっている。またアマゾンやグーグルなどスマート・デバイスのメーカー側では、自社製品の安全性を強調しているという。

が、今回のデモによって潜在的な危険性が示された以上、「メーカーなどは今のうちにこの問題を解決しておくべきだ」と研究者らは警鐘を鳴らしている。