Googleアシスタントが会話を記録し従業員がその内容を聞いていることが問題視される

by BENCE BOROS

Googleの人工知能(AI)アシスタントである「Googleアシスタント」は、ユーザーが「OK Google」と語りかけたあとに、天気予報をたずねたりカレンダーに予定を追加したりさまざまなことが可能になる機能です。スマートフォンやスマートスピーカーの「Google Home」などにも搭載されている機能なので、世界中のユーザーからさまざまな会話を収集しているわけですが、これらはGoogleの下請け企業で働く従業員たちに聞かれていることが明らかになっています。そんな中、Googleが改めてこの問題について公式ブログ上で見解を述べています。

Google workers listen to your “OK Google” queries?one of them leaked recordings | Ars Technica
https://arstechnica.com/information-technology/2019/07/google-defends-listening-to-ok-google-queries-after-voice-recordings-leak/

AmazonのスマートスピーカーのAmazon Echoに搭載されている音声認識アシスタントの「Alexa」は、ユーザーの会話内容を録音しており、これがAmazonの従業員に聞かれていることが2019年4月に明らかになりました。

これと同じように、Googleの提供する音声認識アシスタントのGoogleアシスタントでも、同じように録音された会話内容が従業員に聞かれていることが明らかになっています。この一件を報じたのはベルギーの放送局VRTで、情報源となったのはGoogleの下請け企業で働く従業員。VRTは情報源となった匿名の従業員からGoogleアシスタントが録音した音声データ1000件超を提供してもらい、音声データだけで会話をしていた人物を特定することにも成功しています。録音データによってはユーザーの住所やその他の機密情報が「はっきりと聞き取ることができた」とのこと。

加えて、VRTが提供してもらった音声データの中には、「OK Google」という音声コマンドが明確に発音されていないものも存在。つまり、ユーザーが意図しない「『OK Google』に聞こえる音」がトリガーとなって会話内容が録音されてしまった可能性もあるというわけです。

Google アシスタントが収集した会話がGoogleの下請け従業員に聞かれている - GIGAZINE

VRTの報じた内容に対して、Googleは「この作業はGoogleアシスタントのような製品を支えるテクノロジーの開発にとって非常に重要です」とコメントしていたのですが、新たに公式ブログ上に「音声データを保護するための当社のプロセスに関する詳細情報」という記事を投稿しています。

More information about our processes to safeguard speech data
https://www.blog.google/products/assistant/more-information-about-our-processes-safeguard-speech-data/

この中でGoogleは、「ある言語の査読者のひとりが、オランダで収集されている機密音声データを外部に流出したことで、我々のデータセキュリティポリシーに違反したことが明らかになりました。当社のセキュリティチームとプライバシー対策チームは、この問題について調査中であり、行動を起こす予定です。このような不正行為が二度と起こらないように、この分野の安全対策について全面的な見直しを行っていく予定です」と記し、VRTに音声データを提供した下請け企業の従業員を強く批判するとともに、今後同じようなリークが起きないように、抜本的な見直しを進めると約束しています。

Googleは言語の専門家たちがGoogleアシスタントが録音した会話内容を聞いていることを以前から明らかにしており、ブログの中で改めてその行為自体を擁護。「より多くの言語向けに音声技術を開発している我々の仕事の一部として、我々は特定の言語のニュアンスやアクセントを理解する必要があり、そのために世界中の言語専門家たちと提携しています。これらの言語専門家たちは、Googleがそれぞれの言語をより良く理解することを助けるためにいくつかの会話を聞き、書き起こします。これは正確な音声技術を構築する上で重要なプロセスです。Googleアシスタントのような製品を作成するために必要な行為なのです」とGoogleは記し、あくまで世界中のあらゆる言語向けに音声認識機能を提供するために必要な行為であるとしています。

海外テクノロジーメディアのArs TechnicaがGoogleに対して改めて「従業員は録音された会話を聞いているのか？」とたずねたところ、Googleは「はい」と答え、「社内および関連会社の両方でレビュープロセス全体を通じてユーザーのプライバシーを保護するためにさまざまな策を講じています」と付け加えています。

GoogleによればGoogleアシスタントが録音する会話のうち、従業員が音声認識の精度向上のために会話内容を聞いているものは、全データのうちの0.2％程度だそうです。また、音声データはユーザーアカウントとはひもづけられていないため、従業員側が会話内容からユーザーを特定することは困難とのこと。

また、Googleアシスタントが録音するのはユーザーが「OK Google」の音声コマンドを発した際のみ。ただし、Googleは時々バックグラウンドノイズや言葉の誤認でGoogleアシスタントが起動し、意図していない会話内容を録音してしまうケースがあることを認めています。

2019年4月にAmazonのAlexaがユーザーの会話を録音しており、その内容は従業員に聞かれていると報じられた際、BloombergはAmazonだけでなくAppleもGoogleも音声認識アシスタントが録音した内容を従業員に聞かせていると報じました。この時、GoogleはBusiness Insiderに対して「音声認識システムを改善するために、音声のごく一部だけを利用している」とコメントしています。

なお、Googleユーザーの場合はGoogleアシスタントと共有する情報を指定することが可能で、Googleアシスタントのアクティビティを削除することもできます。Googleアシスタントで取り扱う情報をより詳細に管理したい場合は以下のヘルプページを参考にしてください。

Google アシスタントと共有する情報を指定する - Google アシスタント ヘルプ
https://support.google.com/assistant/answer/7126196?hl=ja