Call of Dutyにリアルタイムのボイスチャット暴言検出システムが導入される、「CoD： MW3(2023)」から本格始動

人気FPSゲーム「Call of Duty」に、ボイスチャットで暴言を吐いたプレイヤーにフラグを立てて規制を試みるモデレーションシステムが導入されることが分かりました。検出後即BANとはならないものの、ヘイトスピーチや差別用語を発するプレイヤーをリアルタイムで特定できるようになる模様。まずは英語を対象に規制が始まります。

Anti-Toxicity Progress Report – Voice Chat Moderation
https://www.callofduty.com/blog/2023/08/call-of-duty-modern-warfare-warzone-anti-toxicity-progress-report

Call of Duty Voice Chat Moderation FAQ
https://support.activision.com/articles/call-of-duty-voice-chat-moderation

Modulate
https://www.modulate.ai/blog/activision-call-of-duty

新しいシステムでは、Modulateが開発したゲーム専用AIボイスチャットモデレーション技術「ToxMod」が利用されています。ToxModはヘイトスピーチや差別用語、ハラスメントなどを含む有害な言葉を検出し、ニュアンスの微妙な違い(例えば「Fuck yeah(良い表現)」と「Fuck you(良くない表現)」)を区別することも可能。さらに、プレイヤーを長期的に追跡し、単に興奮して思わず暴言を漏らしただけなのか、はたまた暴言を言い続けるトキシックな人なのかを推測する技術も導入されています。

ToxModをCall of Dutyへ導入するにあたり、販売元のActivisionは「検出はAIによりリアルタイムで行われるものの、対処は即座に行われるわけではない」と説明しています。具体的には、システムが行動規範に基づいて暴言を検出するとフラグを立て、それを人間のモデレーターが確認し、違反があれば対処する形。強制執行をする前に「関連する録画のレビュー」が行われる場合もあるそうです。

ヘイトスピーチ等は容認されませんが、友達同士の雑談や冗談などは見逃されることもあります。また、自分の声を管理されたくないプレイヤーは設定メニューでゲーム内ボイスチャットを無効にするよう案内されています。

記事作成時点での対応言語は英語のみ。まずは北米圏の「Call of Duty： Modern Warfare II」および「Call of Duty： Warzone」でベータ版を展開し、2023年11月10日に発売する「Call of Duty： Modern Warfare III」を皮切りにアジアを除く全世界でモデレーションシステムを導入する予定としています。後日、英語以外の言語が追加される予定です。

Activisionは「Modern Warfare IIの発売以来、Call of Dutyのモデレーションチームは100万以上のアカウントを制限してきました。悪質なプレイヤーへの対処は非常に重要であり、コミュニティの努力に感謝しています。新しい技術を活用し、重要なパートナーシップを築き、対策方法を進化させることが、継続的な取り組みの鍵となります。今後もコミュニティと協力し、すべての人にとって公平で楽しいCall of Dutyを作り続けていきます」と述べました。