Metaがファクトチェックを廃止したことでFacebook上に誤情報がまん延

Metaは2025年1月にFacebookにおけるファクトチェックを終了しました。この結果、Facebook上に誤情報がまん延するようになったと、独立系の報道機関であるProPublicaが報じています。

Facebook Boosts Viral Content as It Drops Fact-Checking — ProPublica
https://www.propublica.org/article/facebook-meta-abandons-fact-checking-boosts-viral-content

As Meta gets rid of fact-checkers, misinformation is going viral | TechCrunch
https://techcrunch.com/2025/02/24/as-meta-gets-rid-of-fact-checkers-misinformation-is-going-viral/

Metaが開発・運営するSNSのFacebookでは、独立機関によるファクトチェックを実施していましたが、2025年1月7日にMetaは突如このファクトチェックを終了し、X(旧Twitter)と同様のコミュニティノート形式でのコンテンツ検閲に移行すると発表しました。

Metaのマーク・ザッカーバーグが「表現の自由という原点に立ち返る」宣言、ファクトチェック機能をやめてコミュニティノート形態への移行を表明 - GIGAZINE

2025年1月20日にドナルド・トランプ大統領が第47代アメリカ合衆国大統領に就任した際には、就任から数時間後にユーザーがFacebook上で「アメリカ合衆国移民・関税執行局(ICE)が不法滞在者の通報に懸賞金を支払っている」という偽情報を広め始めました。

その一例が以下のFacebookでの投稿。なお、本投稿は削除済みであるため、以下の投稿はインターネットアーカイブによるアーカイブです。投稿には「速報：ICEは通報フォームを通じて不法移民を告発すると、1人当たり750ドル(約11万2000円)の報酬を支払うとされています。フォームへのリンクはコメント欄にあります」と記されています。

この投稿がインターネット上で拡散されたのち、ファクトチェック機関のCheck Your Factや報道機関のReutersが投稿は誤情報であると警告しました。ICEには不法移民を通報するための通報フォームが存在しますが、現金での報酬は支払っていません。そのため、ICEは公式Instagramアカウントで、「通報フォームはあるものの、報酬は支払っていない」と通知しました。

この投稿をInstagramで見る

US ICE(@icegov)がシェアした投稿

このような誤情報が拡散されるようになった大きな理由はファクトチェックの終了ですが、もうひとつの理由として挙げられているのが、Metaがファクトチェックの廃止と同時に刷新した、投稿の閲覧数やエンゲージメントに応じてコンテンツの作成者にボーナスを支払う「パフォーマンスボーナスプログラム」の存在です。このプログラムは記事作成時点では招待制となっていますが、2025年中に広く利用できるようになる予定となっています。

Metaでデータサイエンティストとして働き、デマの拡散と戦ってきたという人物も、ProPublicaに対して「Facebook上で扇動的な誤情報が再び増加している理由は、Metaがパフォーマンスボーナスプログラムを開始したためである可能性があります」と指摘しました。

また、ProPublicaは誤情報を使って政治的分断をあおる95のFacebookページを特定し、Metaに報告しています。これらのFacebookページは偽アカウントによって管理されていたり、政治や社会問題について投稿しながらアメリカ人であると偽っていたりするそうです。これに対して、Metaは報告のあった95ページのうち、81ページを削除したと発表。ただし、Meta側は削除したFacebookページがパフォーマンスボーナスプログラムの対象だったのかなどの詳細については回答していません。

なお、Metaは金銭目的で作られた誤情報を暴くことを10年近く最優先事項としてきました。Metaは「ファクトチェッカーが虚偽と判定したコンテンツには金銭を支払わない」というポリシーを持っていますが、同社がファクトチェックを終了すればこのポリシーは意味を持たなくなります。

すでに404 Mediaは、感情や関心をかき立てることを目的としたやせ細った人々の画像など、AIが生成した欺瞞(ぎまん)的なコンテンツを使って海外のスパマーが金銭を稼いでいることを指摘しています。しかし、この種のコンテンツは検証可能な主張ではないため、めったにファクトチェックされることがないそうです。

非営利団体・Integrity Instituteの最高研究責任者であり、元Metaのデータサイエンティストでもあるジェフ・アレン氏は、「今後、Metaにとっての営利目的のデマ拡散に対する防衛策は何になるのでしょうか」「Facebookの既存のシステムは、わいせつで刺激的なコンテンツを増幅するように設計されています」と語りました。

ただし、ICEの誤情報を投稿したFacebookアカウント「NO Filter Seeking Truth」の管理者によると、同アカウントはこれまで複数回にわたって誤情報を拡散してきたため、Metaからペナルティを受けておりパフォーマンスボーナスプログラムの対象にはなれないそうです。ただし、NO Filter Seeking Truthの管理者はFacebookのファクトチェック終了について「素晴らしい」とProPublicaに語りました。

なお、Metaの広報担当者であるトレイシー・クレイトン氏はProPublicaの報道に対して、「Metaのコミュニティ基準とコンテンツ管理チームがまだ活動しており、コンテンツを間違って禁止するような『ルールの過度な施行』を行わないよう取り組んでいる」と言及。ProPublicaが報じたような、誤情報を拡散するFacebookページがパフォーマンスボーナスプログラムの対象だったかどうかについては明かしていませんが、Metaがファクトチェックの代わりに導入するコミュニティノートが誤情報の特定やユーザー間の信頼の構築、偏見への対処などにいかに効果的であるかを記述した学術論文を挙げ、Metaの方針が正しいものであると主張しています。