「Facebookはヘイトスピーチの削除に成功している」という主張はウソなのか？

by Mike Mozart

FacebookのAIは闘鶏と自動車事故の区別すらできず、「ヘイトスピーチや暴力的なコンテンツを削除している」というFacebookの主張は意図的な誤りだとする記事が2021年10月17日付けで経済紙のウォール・ストリート・ジャーナルに掲載されました。これに対しFacebookが強く反論するブログ記事を公開しています。

Facebook Says AI Will Clean Up the Platform. Its Own Engineers Have Doubts. - WSJ
https://www.wsj.com/articles/facebook-ai-enforce-rules-engineers-doubtful-artificial-intelligence-11634338184

Hate Speech Prevalence Has Dropped by Almost 50% on Facebook - About Facebook
https://about.fb.com/news/2021/10/hate-speech-prevalence-dropped-facebook/

Facebook disputes report that its AI can’t detect hate speech or violence consistently - The Verge
https://www.theverge.com/2021/10/17/22731214/facebook-disputes-report-artificial-intelligence-hate-speech-violence

2021年10月17日、ウォール・ストリート・ジャーナルが「FacebookのAIはヘイトスピーチや暴力的な画像といったコンテンツの削除にほとんど成功していない」とする記事を公開しました。

Facebookはこれまでヘイトスピーチや暴力的なコンテンツといったポリシー違反のコンテンツを積極的に削除していると、一貫して述べてきました。また、ヘイトスピーチの検出には機械学習を利用していることも伝えています。

しかし、ウォール・ストリート・ジャーナルは取得した内部文書から、Facebookはヘイトスピーチが含まれる投稿については全体の3～5％、暴力が含まれるコンテンツについては全体の1％以下しか削除できていないことを報じました。内部文書には、2019年にFacebookがヘイトスピーチに割く人的リソースを削減し、AIへの依存が高まったことが記されており、このために統計上は「ヘイトスピーチが減っている」と見えていたとのこと。また、FacebookのAIは闘鶏と自動車事故の違いを特定できないレベルであり、技術的に課題があることも指摘されています。

ウォール・ストリート・ジャーナルの報道を受けて、Facebookのインテグリティ担当バイスプレジデントであるGuy Rosen氏は「Facebookがヘイトスピーチとの戦いで使用している技術は不適切であり、Facebookは故意に誤った進捗を伝えているとする話」は間違いだと説明する記事を公開。Rosen氏によると、「コンテンツの削除」はヘイトスピーチを減らすための1つの方法に過ぎず、Facebookは「ヘイトスピーチのまん延に焦点を当て、さまざまなツールを利用してヘイトスピーチを広めないようにする方法」を考えているとのこと。直近の調査では、コンテンツにヘイトスピーチが含まれる割合は全体の0.05％、言い換えると1万件あたり5回であり、過去3年で50％も減少したとRosen氏は述べました。

コンテンツの削除数ではなく、「コンテンツにヘイトスピーチが含まれる割合」こそが、ヘイトスピーチ対策の進捗状況を客観的に評価する方法だというのがFacebookの主張です。「これら文書が示すのは、私たちの仕事が何年もかけて行われているということです。私たちは完璧にはなれませんが、私たちのチームは常にシステムを発展させ、問題を識別し、解決策を編み出し続けています」とRosen氏は述べました。