Discordで格子状の模様を含むスクリーンショットやその他の無害な画像を投稿したユーザー8000人以上が誤ってBANされていたと判明

Discordが画像を投稿したユーザーを誤ってBANする不具合により、2026年5月以降に8000件以上のアカウントを誤って利用停止にしていたと公表しました。マインクラフトのインベントリ画面やチェス盤のような格子状の画像を投稿したユーザーなどが影響を受け、Discordは対象アカウントをすでに復旧したとしています。

Discordでは、有害な画像の投稿を防ぐため、投稿された画像を既知の有害コンテンツと照合する安全対策システムを運用しています。この仕組みは、児童性的虐待コンテンツなどの違法・有害な画像の拡散を検出して阻止するためのものです。

今回の問題は、この照合システムで無害な画像を有害コンテンツと誤認する「偽陽性」が発生したことが発端です。格子状の模様を含むチェス盤やゲーム画面のほか、同様に無害な画像が誤って検出対象となったとのこと。誤検出された画像には、レンガの壁やプールのタイル、キーボードの写真、パズルゲームの画面、方眼紙の写真なども含まれていたそうです。

本来であればシステムが疑わしい画像を検出した場合、該当アカウントによる画像投稿を一時的に制限し、担当者が内容を確認する運用でした。しかし不具合により、一時的なアップロード制限をかけるべき処理が、アカウント全体をBANする処理として実行されていました。

Discordの共同創設者兼最高技術責任者であるスタニスラフ・ヴィシュネフスキー氏は今回のバグについて、2026年5月以降に格子状の画像を投稿した約200人のユーザーに加え、その他の無害な画像を投稿した約8000人のユーザーにも影響が及んだと述べています。

さらに、担当者が投稿内容を確認して問題なしと判断したアカウントについても、別の不具合によってBANが自動解除されない状態になっていました。このため、本来なら審査完了後に復旧すべきアカウントが利用停止のまま残り、影響が長引いたとのこと。Discordは、不具合により利用停止となったアカウントをすべて復旧したとしています。

なお、Discordは格子状の画像が既知の有害コンテンツと一致したと判定された詳しい原因までは明らかにしていません。同社は投稿画像を既知の有害コンテンツと照合する安全対策システムで偽陽性が発生し、本来は一時的なアップロード制限にとどめるべき処理がアカウント全体のBANとして実行されたことが問題の中心だと説明しています。