MicrosoftはAIによって音声会話をリアルタイムにフィルタリングすることを目指している

by pxhere

Microsoftは、Xbox Liveのユーザーが受信するテキストメッセージに不適切な内容が表示されないように、ユーザーの設定に応じて人工知能(AI)が自動的に内容を制限するフィルタリングを適用すると発表しました。また、将来的にはXbox Live上で行われる音声チャットをリアルタイムでフィルタリングする機能も搭載される予定だと報じられています。

Putting You in Control of Your Gaming Experience - Xbox Wire
https://news.xbox.com/en-us/2019/10/14/our-vision-for-content-filtration/

Microsoft unveils Xbox content filters to stop the swears and toxicity - The Verge
https://www.theverge.com/2019/10/14/20913323/microsoft-xbox-live-content-filters-messages-party-chat-moderation

インターネットを通じて世界中の人とゲームを対戦したり協力したりすることが当たり前になり、メールや音声チャットでコミュニケーションを取ることも簡単にできるようになりました。しかし、知らない人とゲームを遊んでいると、時に悪口や差別的なメッセージなど不適切な内容が含まれることもあります。

Xbox Liveでは、最初にFriendly、Medium、Mature、Unfilteredの4段階から選んで、テキストメッセージに含まれる内容をフィルタリングすることができるようになったとのこと。Friendlyは一番子ども向けのレベルで、潜在的にネガティブなメッセージをすべて除外するように設計されています。反対に、Unfilteredは一切フィルタリングを行わない設定です。

また、家族でアカウントをそれぞれ所有する場合、保護者はファミリー設定を使って、Xbox One、Windows 10、iOSとAndroidのXboxアプリから子どものアカウントのフィルタリングを設定・管理することが可能になりました。

by diaznash

技術系メディアThe Vergeの記者は、MicrosoftのAIによるフィルタリングの精度を確かめるべく、Xbox Liveのアカウントに汚い言葉をメッセージで何度も送り、フィルタリングをくぐり抜けることができるかテストを行ったとのこと。しかし、フィルタリングを回避するための既存のテクニックを試しても、MicrosoftのAIは特定の単語やメッセージをピックアップして除外したとのことで、かなり高精度なフィルタリングが実現できている模様です。

ただし、The Vergeは「インターネットでは、特定のコミュニティを攻撃するためのフレーズやミームがすぐに生み出されるので、Microsoftのフィルタリングでも絶対的に確実とはいえません」と述べています。

一方で、ネガティブな言葉だからといって、決して悪い意味で使われているとは限らないため、精度の高いフィルタリングは非常に複雑なアルゴリズムを要求されます。例えば、オンラインマルチプレイで「○○にいる敵を先に殺そう！」とメッセージで作戦を提案した時、「殺す」というネガティブな単語がメッセージに含まれているものの、文脈を踏まえると問題のある会話ではありません。

MicrosoftのXbox運用責任者であるデイブ・マッカーシー氏は、The Vergeの取材に対して「ゲーム空間では、会話の文脈というものは非常に扱いにくいものです。人工知能を運用したフィルタリングで文脈とニュアンスを理解する方法を探るのは、終わりのない戦いです」と述べています。

Microsoftは公式ブログの中で、「最終的には、既存の取り組みを補完し、AIと機械学習技術における当社の取り組みを活用して、Xbox Live上のあらゆる種類のコンテンツをフィルタリングし、個々のプレーヤーにコントロールを提供することを目指しています」と述べています。これはつまり、テキストメッセージだけではなく、Xbox Liveの音声チャットにリアルタイムでフィルタリングをかけることも検討していることを意味します。

by U.S.Air Force

The Vergeによると、Microsoftは音声をリアルタイムで文字起こしするための音声読み上げ機能を既に開発していて、Xbox Liveにもこの技術を応用することを検討しているとのこと。ただし、音声をリアルタイムに分析すると、どうしてもタイムラグが発生してしまうので、即時性が求められるゲーム内の音声チャットに応用するのはかなり難しいものがあるといえます。

音声チャットへのフィルタリングについて、マッカーシー氏は「音声を文章にリアルタイムで起こし、それをフィルタリングすれば、音声会話でもフィルタリングが可能なのではないか？という疑問から開発がスタートしました。(音声チャットへのフィルタリングの開発は)まだ始まったばかりなので、時間をかけて取り組んでいきます」とコメント。

Xbox Liveエンジニアリングチームのプログラムマネージャーであるロブ・スミス氏は「最終目標は、リアルタイムで音声会話から悪口を検出して、それを見たり聞いたりしたくないユーザーにビープ音で通知するというものです。これは大きな目標ですが、それに向けて一歩ずつ踏み出す必要があります」と語りました。