X(Twitter)の認証済みアカウントが拡散する誤情報に対してコミュニティノートが十分機能していないという研究結果

イーロン・マスク氏はTwitterを買収して「X」に名前を変更したほか、認証済みを示す青いチェックマークをサブスクリプション登録者に限定したり、ポストに対して第三者が補足情報を追記する「コミュニティノート」機能を導入したりと、さまざまな仕様変更を採用しています。非営利メディアのProPublicaとコロンビア大学のトウ・デジタルジャーナリズム・センターが、認証済みアカウントが誤情報をまん延させており、「コミュニティノート」が十分機能していないという研究結果を発表しました。

Verified Accounts on X Are Thriving As They Spread Israel-Hamas Conflict Misinformation — ProPublica
https://www.propublica.org/article/x-verified-accounts-misinformation-israel-hamas-conflict

Verified Accounts, 'Community Notes' Perpetuate Misinformation On X, Study Finds 12/22/2023
https://www.mediapost.com/publications/article/392118/verified-accounts-community-notes-perpetuate-mi.html

ProPublicaとコロンビア大学のトウ・デジタルジャーナリズム・センターの研究チームは、2023年10月から続くイスラエルとハマスの紛争について、2023年10月～11月で誤情報がX上でどのように急増したかを調査しました。研究チームは独立したファクトチェックで誤解を招くと判断された主張を調査し、それらを投稿する認証済みアカウントのポストを精査しました。

「誤情報のポスト」は、関係ない事件の写真や映像、ゲームの映像、画像生成AIで生成した画像を、誤った内容や自身の偏った主張と共に投稿するという内容のものに絞られました。調査対象となったポストは2000件以上で、そのうち虚偽の内容であることがX上で明らかになったのは200件以上。それらは1300人以上の認証済みアカウントで公開され、ポストのインプレッション数は合計で5億に達していたそうです。

調査チームによると、誤情報をポストした認証済みアカウントは2023年10月から11月でフォロワーが増加しており、その中には誤情報を3回以上投稿して10万人以上のフォロワーを抱えるアカウントが数十人分存在したとのこと。

以下は誤情報を含むポストを投稿する認証済みアカウント(オレンジ)、イスラエル側のメディア(青)、パレスチナ側のメディア(緑)のフォロワー数の推移を示したグラフ。イスラエル側メディア・パレスチナ側メディアはほとんどフォロワー数が変化していないのに対して、認証済みアカウントのフォロワー数は急増しており、1人は約2カ月でおよそ5倍の200万人以上に激増しています。

上記で最も急成長しているアカウントは、「MAGA共産主義者」を名乗る24歳の自称政治評論家のもので、過去には親ロシア的な言説を唱え、YouTubeからアカウント停止処分を受けたことがありました。この自称政治評論家はイスラエルとハマスの紛争について、誤情報を含むポストを20件以上行っており、のべ4000万のインプレッション数を得ていたとのこと。そのポストの半数以上にはコミュニティノートで内容の訂正がつけられていなかったそうです。

調査チームによると、調査対象となった2000件のポストの80％はコミュニティノートによる訂正が付けられておらず、X上で誤情報であることが判明した200件のポストのうちの80件以上はコミュニティノート以外で誤りが発覚していたとのこと。

以下はイスラエルとハマスの紛争についてのポストに、AIで生成された同一の画像が添付されたポストの例。4つのポストのうち、右3つにはコミュニティノートで「これはAIで生成した画像です」と訂正がされていますが、投稿日時が最も古い一番左のポストにはコミュニティノートがつけられていません。

さらに、2023年10月7日の最初の攻撃から2週間以内に投稿された400件の誤情報を含むポストを分析したところ、ポストが投稿されてからコミュニティノートが表示されるまで平均で7時間かかったことが判明。さらに11月の第1週でもコミュニティノートがポストに表示されるまで5時間以上かかったそうです。

コミュニティノートについて、Xのコミュニティノート・チームの責任者であるキース・コールマン氏に調査結果と収集したデータセットを提供したところ、コールマン氏はメールで「今回の調査で確認されたツイートは、Xに投稿されたコミュニティノートのごく一部です。また、私たちが特定できなかったものも含め、視認性の高いコミュニティノートがつけられたポストが削除されたケースも多くみられました」と回答。さらに、紛争に関する文章に画像生成AIの生成した画像を添付したポストについて、コールマン氏は「その画像がAIで生成されたものであるとユーザーが気付かず、コミュニティノートが必要だと思われなかった可能性もあります」と答えました。

コールマン氏は「コミュニティノートはXの誤情報の対処としてアップグレードされたものであり、改善され続けています。最も重要なことは、コミュニティノートは政治的なスペクトルを超えて、世界中の人々に役立っているということです」と述べています。

しかし、南カリフォルニア大学でコミュニケーションジャーナリズムを研究するマイク・アナニー准教授は「モデレーションをコミュニティに任せることについては懐疑的です。誰が歓迎され、どのような意見が尊重されて、どのような種類のコンテンツが許容されるのか、これまで示されてきたすべての傾向を考えると、どのようなコミュニティの規範も機能するとは思えません」とコメントしました。