FacebookにはVIPユーザーが580万人存在、モデレーション監視外で独自の「XCheck」プログラム適用

Facebookにはコンテンツの内容をチェックし、問題がある場合は削除する自動モデレーションシステムが存在します。しかし、ユーザーの中にはこのチェックが適用されない「VIP」が存在していたことが明らかになりました。

Facebook Says Its Rules Apply to All. Company Documents Reveal a Secret Elite That’s Exempt. - WSJ
https://www.wsj.com/articles/facebook-files-xcheck-zuckerberg-elite-rules-11631541353

Facebook shields millions of VIP users from moderation protocols
https://www.cnbc.com/2021/09/13/facebook-shields-millions-of-vip-users-from-moderation-protocols.html

Facebook program reportedly let celebrities avoid moderation - The Verge
https://www.theverge.com/2021/9/13/22671565/facebook-xcheck-moderation-system-high-profile-exemptions

Leaked documents reveal the special rules Facebook uses for 5.8M VIPs | Ars Technica
https://arstechnica.com/tech-policy/2021/09/leaked-documents-reveal-the-special-rules-facebook-uses-for-5-8m-vips/

特定ユーザーをモデレーションシステムの対象から除外するプログラムは「XCheck」または「クロスチェック」と呼ばれるもので、ホワイトリスト方式となっており、リストに登録されるとFacebookの規約に反した投稿であっても自動的に削除されることはなくなるとのこと。

Facebookのモデレーションシステムは強力で、PR投稿ですら自動的に削除されてしまうことがあったとのこと。しかし、著名人の投稿を自動的に削除するような事態があると「Facebookに勝手に削除された」とフォロワーに広められてしまう恐れがあり、さらに対象が政治家だった場合には「プラットフォームに対する規制を強化する」などと言われかねないことから、XCheckが導入されたそうです。

リストに登録されたユーザーの数は少なくとも580万人で、プログラムは2019年時点で政治家向けに存在していたことをFacebookは認めています。

リストに登録されたユーザーの投稿内容は、モデレーションシステムの対象外にはなるものの、どんな内容でもスルーだったというわけではなく、専門の「XCheckチーム」による手動チェックが行われていました。しかし、リストの登録者数が増える一方だったことからXCheckチームによる確認は対象コンテンツ全体の10％未満にとどまっていたとのこと。

このため、2019年にはサッカー・ブラジル代表のネイマール選手が婦女暴行疑惑の否定を目的として、対象女性と仲が良かったことをアピールする写真や動画をFacebookにアップロードしましたが、その内容にリベンジポルノに相当する恐れのあるコンテンツが含まれていたにもかかわらず、丸1日以上掲載され続けるという事態が発生しました。通常、リベンジポルノは確認され次第、即座に削除されますが、ネイマール選手はホワイトリストに入っていたため、XCheckチームによる確認・削除が必要で、対応が遅れたものとみられています。なお、Facebookにリベンジポルノをアップロードしたアカウントは削除措置が取られますが、ネイマール選手のアカウントはそのまま残されました。

The Wall Street Journalによれば、この文書は保護を求める内部告発者から提供されたもので、議会と証券取引委員会にも同じものが提出されているとのことです。

Facebookの担当者はThe Wall Streel Journalに対し、ホワイトリストは段階的に廃止しているとコメントしています。