ゲームプレイ中に飛んでくるヘイトスピーチを自動的にミュートしてくれるAI「Bleep」

LGBTQ+へのヘイトや障害者差別、容貌批判など、ゲームをしていて出会うことのあるヘイトスピーチを、自分の設定したレベルまで自動的にミュートしてくれるAIが、Intelの開発した「Bleep」です。

Billions of Gamers Thousands of Needs Millions of Opportunities | GDC 2021 Showcase | Intel Software - YouTube

Intel's AI-powered Bleep tech lets you choose exactly how much online hate speech you hear • Eurogamer.net
https://www.eurogamer.net/articles/2021-04-08-intels-ai-powered-bleep-tech-lets-you-choose-exactly-how-much-hate-speech-you-hear

Intel’s Dystopian Anti-Harassment AI Lets Users Opt In for ‘Some’ Racism
https://www.vice.com/en/article/dyvgvk/intels-dystopian-anti-harassment-ai-lets-users-opt-in-for-some-racism

「Bleep」はトグルスイッチ1つでオン・オフが可能なヘイトスピーチ抑制AI機能で、さまざまなジャンルのヘイトスピーチをどれぐらい抑制するか、スライダーによって細かく調整可能です。

GDC Showcase 2021でのIntelのプレゼンテーションから読み取れる設定項目は「障害者差別と容貌批判」「攻撃的発言」「LGBTQ+ヘイト」「ミソジニー」「誹謗中傷」。

さらに「Nワード」「人種差別と外国人排斥」「性的に露骨な表現」「悪口」「罵倒」「白人至上主義」も、それぞれスライダーに4段階で設定できるようになっています。

Bleepにはテキストログが用意され、ユーザーは「どういった言葉が抑制されたか」が確認可能ですが、ログは再起動時にリセットされます。また、Bleepのすべてのアルゴリズムはローカルで実行され、ユーザーのシステムの外部にデータが送られることはありません。

IntelはBleepを2021年後半にリリース予定で、コミュニティからのフィードバックをもとにした改善作業を行っているとのことです。