Facebookがヘイトスピーチの制御に失敗しているという報道

フィンランドの報道機関・Yle Newsが「FacebookはAIによって特定単語のブロックや不適切表現のフィルタリングを行っていると主張しているが、少なくともフィンランド語を処理できるAI監視ツールは開発すら行っておらず、たった11人のモデレータが手動処理を行っている状況にある」と報じました。

Facebook failing at Finnish moderation | News | Yle Uutiset
https://yle.fi/news/3-12238371

Facebookは、プラットフォーム上に投稿されたルール違反の可能性があるコンテンツをAIで自動検出して削除する検出システムを運用しています。Facebookの運営元であるMetaによると、2019年においてユーザーからの報告が行われる前にAIが検出・削除を行ったポリシー違反のコンテンツは、「危険な人物および団体」に抵触したグループが行った投稿については約150万件のうちの91％、ヘイトスピーチに関連する投稿については約1200万件のうち87％にも上るとのこと。

Facebookグループの安全を保つための最新の取り組み | Metaについて
https://about.fb.com/ja/news/2020/09/keeping-facebook-groups-safe/

以上のようにFacebookは「AIを使ったモデレーションが多大な成果を上げている」と主張しているわけですが、Yle Newsによると「ユーザー数の少ないフィンランド語についてはAIを使ったモデレーションは開発すらされていない」とのこと。この主張の根拠になっているのはFacebookに勤めていたFrances Haugen氏がリークした内部文書です。

Frances Haugenの経歴やその主張については、以下の記事で詳しく解説しています。

「Instagramが自殺への考えを悪化させる」という内部情報のリーク者が身元を明かす - GIGAZINE

この内部文書によると、FacebookのAIは新型コロナウイルス関連のコンテンツを17言語で監視し、社会的トピックを31言語で監視しているものの、そのいずれにもフィンランド語は含まれていないとのこと。フィンランド関連のページに対して行われている自動検出は、スウェーデン語・ロシア語・アラビア語で書かれている内容のみで、分量としては全体の約20％相当。残りの80％は、ドイツ・ベルリン在住のフィンランド人わずか11人によって、手動で行われている状況だそうです。

「AIによるモデレーションがスペイン語・アラビア語・インドネシア語にも対応したことによって、ヘイトスピーチ条項に違反した投稿の四半期ごとの削除量を960万件から2250万件に増加させた」と主張していましたが、流出した内部文書によると、「それでも全体の数％しか削除できていない」ことを理解していたとのこと。

Yle Newsはフィンランド語のモデレーションに関してFacebookに2回問い合わせを行いましたが、2回とも要求が拒否されたとのことで、モデレーションに関する詳細を秘匿し続けるというFacebookの姿勢を非難しています。