Twitterのユーザーの力でファクトチェックを行う「コミュニティノート」機能は全体の96％にあたる約3万件のノートが表示されないままになっている

2022年12月11日から、Twitterに投稿されたツイートのファクトチェックをユーザーの手で行うことができる新機能「コミュニティノート」の展開が始まっています。このコミュニティノートのデータは透明性を高めるために一般に公開されているのですが、このデータを評価した経済紙のBloombergが「政治的な対立を生む誤情報は公開されにくい傾向にある」と指摘しました。

Twitter CEO Elon Musk Pushes Community Notes Fact-Checking System Despite Its Major Blind Spot
https://www.bloomberg.com/graphics/2022-twitter-birdwatch-community-notes-misinformation-politics/?leadSource=uverify%20wall

コミュニティノートとは、コミュニティノートに参加したユーザーが誤解を招くようなツイートに対してより詳しい情報を追加する「ノート」を残すことができるという機能です。ノートはコミュニティノートのユーザー同士が評価し、アルゴリズムによって最も「役に立つ」と判断されたノートのみが一般に公開されることとなります。

ツイートのファクトチェックをTwitterユーザーみんなの力で行う「コミュニティノート」が日本を含む全世界で利用可能に - GIGAZINE

コミュニティノートはいくつかの簡単な条件を満たせば誰でも参加できるため、この機能により多数のユーザーの手でさまざまなデマの拡散を防止することが期待されています。しかし、この機能をレビューしたTwitter社員やBloombergは「賛否両論を巻き起こすようなうそには対応しきれていない」と指摘します。というのも、アルゴリズムがノートを「役に立つ」と判断するには、異なった視点を持つ人々からの意見が必要となるためです。

そもそもコミュニティノートは次のように機能します。Bloombergが例に挙げたのはTwitterのCEOであるイーロン・マスク氏のツイート。マスク氏はかつてアメリカのテレビ局であるCNNの画像を投稿しましたが、そのツイートに赤枠で囲った「背景情報」が追加されているのが分かります。これがコミュニティノートの参加者によって作られ、評価された「ノート」です。CNNの画像はパロディサイトが作成したフェイク画像であり、ノートではCNNがフェイクだと指摘した記事が引用されました。

Bloombergの分析によると、このノートは大多数の参加者が「役に立つ」と評価したとのこと。以下の画像のうち青色のタイルが「役に立つ」と評価した人、黄色のタイルが「やや役に立つ」と評価した人、桃色のタイルが「役に立たない」と評価した人で、このノートは一目で多くの人に役に立つと評価されたことが分かります。しかし、ノートは単純に評価数だけで最終的に「役に立つ」と判断されるのではなく、裏ではアルゴリズムによりさまざまな計算が行われています。

アルゴリズムはノートを評価した参加者の傾向を分析し、その人がどのような思想を持っているのかをおおまかに決定づけます。その結果を元に参加者を分類すると以下のようになり、政治的に左寄りな思想を持っていると判断された人はグラフの左側に、右寄りの思想を持っていると判断された人はグラフの右側にタイルが配置されます。このように見ると、マスク氏の上記ツイートに付けられたノートには左寄りの人ほど「役に立つ」と評価し、右寄りの人ほど「役に立たない」と評価したことが分かります。

しかし、このノートは左寄り・右寄り問わず一定の「役に立つ」評価が得られているとも判断できます。このようにさまざまな視点を持つ人々から同様の評価を受けたため、このノートは一般に公開されたということです。マスク氏はこれに対し「コミュニティノートが私のツイートを訂正できるのであれば、当然、誰に対しても訂正できるということです。これは良い例です。ラベルを追加したのは正解でした」と評価しました。

コミュニティノートの登場により多くの誤情報が抑制されることが期待できますが、Bloombergの分析によると多くのノートが一般に公開されるまでに至らず、これまで投稿されたノートの約96％にあたる3万件以上のノートが未公開になっているとのこと。

未公開のノートの一例としては以下のツイートに付けられたノートが挙げられます。このツイートは聖書的世界観から家族を中心とした公共生活の理念を明確にして推進するための非営利組織「Family Research Council」によって投稿されたもので、「母親の命を救うために中絶が必要になることは医学的に決してない」と述べられていますが、コミュニティノートの参加者はAP通信やロイターなどのソースを引用して「そのツイートは間違いである」と説明するノートを追加しようとしました。

しかし、当該ノートはコミュニティノート参加者のうち「右寄り」と判断された人々から一定数の評価を得られていないため、多数の視点からの評価を優先するアルゴリズムの手により公開には至っていません。このようなノートは右寄り・左寄り問わず存在しており、特に中絶や新型コロナウイルス感染症(COVID-19)、選挙などに関する誤った情報を指摘するノートは公開されることが少ないそうです。

マスク氏の意図した通り、公開されたノートは政治的な偏りが少なくなっているであろうことが見てとれますが、コミュニティノートが誤情報の絶対的な抑止力となっているわけではありません。このことに関し、Bloombergは「何百人ものユーザーがノートが役に立つと評価しても、反対の政治思想を持ったユーザーが投票しないことを選択すれば、そのメモが表示される可能性は極めて低くなります」と主張。「何千ものノートが様々な視点からの十分な投票を待っている間に、誤報はさらに広がる可能性があります」と述べています。

また、マサチューセッツ工科大学のスローン経営大学院の調査によると、ユーザーは自分と同じ政治的思想を持つ人が書いたノートに関心を寄せやすく、ノートの著者と政治的思想を共有している場合に「役に立った」と評価する傾向がはるかに強かったことが分かったとのこと。このことから、Bloombergは「Twitterの課題の一つは、ユーザーが『自分の政治的思想に反するノートに関与したくない』と考えることかもしれません」と分析しました。