SiriやGoogle Nowなどの音声認識アシスタントは人間が認識できないコマンドでも操作できる

by Jason Lander

スマートフォンがちょっと離れたところにあっても、また周囲で雑音がしていたとしても、人間が認識できないコマンドを送り込んで音声認識アシスタントを勝手に動かすことが可能であるということがわかりました。

Hidden Voice Commands
http://www.hiddenvoicecommands.com/

どういうことなのかというのは、以下のデモ映像を見ればわかります。

Demo VoiceHack - YouTube

スピーカーから10.1フィート(約3.08m)離れたところにスマートフォンを置きます。

そして、人間の声をコンピューター加工したコマンドを聞かせると、人間が聞いても何と言っているかわからないのですが、スマートフォンはコマンドの内容を認識して実行します。ここでは、雑音なしで「XKCD.comを開いて」というコマンドを実行しています。

後半は周囲から雑音がしている状態で「機内モードに設定」というコマンドを送っていますが、これもちゃんと認識しました。

これはジョージアタウン大学とカリフォルニア大学バークレー校の研究チームによって見つけられたもの。コンピューター加工した音声には「BLACK-BOXモデル」と「WHITE-BOXモデル」の2種類があります。

BLACK-BOXモデルの一例がこれ、「What is my current location」と言っています。

1 - YouTube

WHITE-BOXモデルはこんな感じ、「Take a Picture Now」と言っています。

1 - YouTube

なお、研究チームではチャレンジ/レスポンス認証と機械学習を用いた防御策も考案していて、99.8％の精度で攻撃を検知しているとのことです。