Twitterのデマ拡散を防ぐ「コミュニティノート」は本当に信用できるのかアルゴリズムの仕組みを解説

Twitterでは誤解を招く情報やデマ情報の拡散を防止するために、ユーザー同士で評価し合ってファクトチェックを行える「コミュニティノート」機能が2022年12月から正式に導入されています。しかし、コミュニティノートはユーザーによって記されるものなので「そもそもコミュニティノートは信用していいのか？」と気になっている人も多いはず。コミュニティノートの信頼度を決定するアルゴリズムが公開されていたので、その内容をまとめてみました。

Note Ranking Algorithm
https://communitynotes.twitter.com/guide/en/under-the-hood/ranking-notes

◆コミュニティノートとは？
コミュニティノートは、誤解を招く可能性のあるツイートに対して、ユーザーがツイートの文脈を説明する「ノート」を残すことができる機能です。例えば、以下の「赤色40号はADHDを発症させる」と主張するツイートには「発達障害に関する誤った情報を拡散しています」というノートが挿入されています。

各ノートはTwitterユーザーによって作成＆評価されており、ルールに違反していないかぎりTwitter運営チームが介入することはありません。しかし、悪意あるユーザーや間違った知識を持つユーザーが作成したノートが広まってしまうと、誤情報の拡散防止を目的としているはずのノートが誤情報の拡散に寄与してしまうことにつながりかねません。誤情報を含むノートが拡散することを防ぐために、コミュニティノートには「ユーザー同士でノートを評価する」という仕組みが搭載されています。

ノート内の「評価する」をクリックすると、各ノートの信頼性を評価できます。

評価は「はい」「少し」「いいえ」の3段階です。

◆ノート公開前の有用性判断
ノートは作成直後に世界中へ公開されるわけではなく、まずは「Twitterのルールに違反していない」「Twitter登録後6カ月以上経過」「電話番号認証済み」といった参加資格を満たして「コミュニティノートの協力プログラム」に参加したユーザーのみに公開され、「役に立った」もしくは「役に立たなかった」の評価が行われます。

ノートには「ノートは現在のところ『役に立った』と評価されています」「ノートはさらに評価が必要です」「ノートは現在のところ『役に立った』と評価されていません」という3段階のステータスが存在します。作成直後のノートには「ノートはさらに評価が必要です」というステータスが割り当てられ、評価が5個以上付けられた後に肯定的評価を多く獲得したノートは一般公開され、否定的評価を多く集めたノートは非公開となります。また、否定的評価を多く集めるノートを繰り返し作成したユーザーにはノート作成機能を一時的にロックするなどの措置が取られるとのこと。

◆ノート公開直後の有用性判断
一般公開後のノートは、「行列の分解モデル」によって求められる有用性スコアによって「役に立つ」か「役に立たない」かが判断されます。有用性スコアが0.40以上になったノートは「役に立つ」ノートであると見なされ、-0.04未満のノートは「役に立たない」ノート、0.40～-0.04のノートは「もっと評価が必要」に分類されます。

ノートの表示から2週間が経過するまでは、行列分解の結果などを含むランキングアルゴリズムが実行され、その度に有用性のスコアとステータスが更新されます。ノートの有用性ステータスは公開から2週間で固定されます。

なお、Twitter公式アカウント「役に立つコミュニティノート」では、「『役に立った』ステータスが6時間にわたって維持された」かつ「有用性スコアが0.45以上」という条件を満たしたノートを含むツイートがまとめられています。

役に立つコミュニティノート（@HelpfulNotesJP）さん / Twitter
https://twitter.com/HelpfulNotesJP

また、TwitterのコミュニティノートのアルゴリズムのソースコードはGitHubで公開されています。

communitynotes/sourcecode at main · twitter/communitynotes · GitHub
https://github.com/twitter/communitynotes/tree/main/sourcecode