Facebookはインドでのイスラム教徒排斥運動に加担していることを認識していた

FacebookやTwitterなどのSNSは差別的な投稿や扇動的な投稿の削減に取り組んでいます。しかし、Facebookに対しては「Facebook上のヘイトスピーチが虐殺を招いている」「Facebookはヘイトスピーチの拡散防止に失敗している」といった指摘が多く挙がっています。そんな中、新たにFacebookの内部文書から、Facebookが「自社のサービスがインドで宗教的憎悪を増大させていること」を認識していたことが判明しました。

Facebook Services Are Used to Spread Religious Hatred in India, Internal Documents Show - WSJ
https://www.wsj.com/articles/facebook-services-are-used-to-spread-religious-hatred-in-india-internal-documents-show-11635016354

Facebook dithered in curbing divisive user content in India
https://apnews.com/article/coronavirus-pandemic-technology-business-media-religion-74175aa6f2cb50fc6fb1aedda11b2c6c

インドでは、2019年に移民に国籍を与える法改正が行われたことを受けて、大規模な抗議活動が展開されました。Facebookの内部文書によると、抗議活動が活発だった2019年12月にはFacebookへの扇動的な投稿が通常時の3倍にまで増加していたとのこと。さらに、53人が死亡したデリーでの暴動が発生した2020年2月下旬にもFacebookとWhatsAppで暴力を扇動する投稿が増加していたことが内部文書に記録されていました。

扇動的な投稿の多くはイスラム教徒の排斥を目的としており、「新型コロナウイルス感染症の感染拡大はイスラム教徒の仕業である」「イスラム教徒はヒンドゥー教徒を標的にしている」といった投稿が含まれていました。内部文書によると、Facebookは自社のサービスが宗教的憎悪の増大へ与えている影響を調査するべくインドに調査チームを派遣し、数十人のFacebookユーザーへの聞き取り調査を実施したとのこと。

調査報告書にはデリーに住むヒンドゥー教徒の男性が「FacebookやWhatsAppで『ヒンドゥー教徒は危険にさらされています。イスラム教徒が私たちを殺そうとしています』といった非常に危険なメッセージを頻繁に受け取っています」と述べていたことや、多くのユーザーが「扇動的なコンテンツを減らすのはFacebookの責任である」と考えていたことが記されています。これらの内部文書の記述からウォール・ストリート・ジャーナルは「Facebookは自社のサービスが紛争・憎悪・暴力を助長する大量のコンテンツを生成していたことを認識していました」と指摘しています。

By Mujeebcpy

また、同じ意見を持つユーザー同士が集まるFacebookグループには、イスラム教徒をブタやイヌと並べて論じる投稿や、「コーランは男性に女性をレイプするように求めている」といった誤った主張が数多く集まっていたとのこと。しかし、それらのグループは「政治的に慎重な対応が求められる」という理由から活動停止措置を受けていないことも判明しました。さらに、「インドにおけるヘイトスピーチ対策が進まない要因は、ヒンディー語やベンガル語を認識するための技術システムが欠けているため」とする報告書も存在しており、Facebookによるヘイトスピーチ対策の遅れが明らかになっています。

Facebookの広報担当者であるアンディ・ストーン氏は、「ウォール・ストリート・ジャーナルが閲覧した文書は調査報告であり、Facebookの企業的な立場を示すものではありません」と主張しています。また、ストーン氏は「Facebookにはヒンディー語やベンガル語などのインドで使われている5つの言語に対応したシステムがあり、その改善にために取り組んでいます」と述べています。

なお、Facebookは2021年10月23日に「リスクのある国々で安全なオンライン環境を維持するためのアプローチ(Our Approach to Maintaining a Safe Online Environment in Countries at Risk)」と題した声明を発表し、インド・ミャンマー・エチオピアといったリスクの高い国々での扇動的コンテンツの拡散防止に力を注ぐことを表明しています。加えて、2021年10月24日には声明を更新してヒンディー語・ベンガル語・タミル語・ウルドゥー語・アムハラ語・オロモ語・ビルマ語のヘイトスピーチ検出強化に取り組むとする記述を加えています。

Our Approach to Maintaining a Safe Online Environment in Countries at Risk - About Facebook
https://about.fb.com/news/2021/10/approach-to-countries-at-risk/