疑わしいツイートに有志の手でコメントを付ける「コミュニティノート」に同一画像を検知する機能が導入される、「これはAI製です」などのコメントが付くことでフェイク画像の拡散防止に

「ペンタゴン近くで爆発」というフェイク画像がTwitter認証済みアカウントに拡散され株式市場が混乱した事件から間もなく、ユーザー同士でツイートを評価する「コミュニティノート」に同一画像を検知する機能を試験的に導入するとTwitterが発表しました。これにより、たとえ複数のアカウントが偽の情報を流したとしても、同じ画像を使っていれば検知できるようになる可能性があります。

Notes on Media
https://communitynotes.twitter.com/guide/en/contributing/notes-on-media

2022年12月に正式に利用可能になったコミュニティノートでは、コミュニティに参加したユーザーがツイートに「ノート」と呼ばれるコメントを付けるという作業が行われています。第三者によるファクトチェックを施すことで、誤解を招くツイートやうそのツイートがそのまま拡散されてしまうことを防ぐ役割を果たしています。

コミュニティの様子はこんな感じ。「評価が必要」「新しいノート」「役に立ったと評価済み」という3つのタブがあり、それぞれのタブにコミュニティ参加者がピックアップしたツイートがずらりと並んでいます。以下に大きく表示された画像付きツイートは、23.8万人のフォロワーを抱える@WarClandestine氏が投稿した「ロシアが生物ラボを狙うようになってからCOVID-19の亜種が止まったことに気づいたか？ロシアは2022年2月24日にウクライナで生物ラボの無力化を開始した。それ以来、変種はない。偶然の一致か？」という内容のもの。このツイートは一般公開されていますが、コミュニティノートに参加したユーザーにだけは「コミュニティノートの協力者が送信したノートの評価にご協力ください」というメッセージが表示されます。

メッセージをクリックすると、コミュニティ参加者がツイートに付けたノートを確認することができます。このユーザーは「COVID-19は現在も変異しており、定期的に亜種が出現している」との情報を複数のソースと合わせて提示しており、@WarClandestine氏のツイートの真偽に疑問を投げかけています。このノートが他のコミュニティ参加者から「役に立つ」と評価された場合、一般ユーザーにもノートが公開されることになります。

日本語ユーザーが日本語で書かれたツイートにノートを残している様子も確認できます。

2023年5月31日、Twitterはこのコミュニティノートへ新たに画像検知機能を導入することを明らかにしました。Twitterによると、「作成ポイント(Writing Impact)」を10以上獲得しているユーザーであれば、ノートを作成する際に一部のツイートで「画像について」というタグを付ける新しいオプションが表示されるとのこと。これは、画像がどのツイートで紹介されたかにかかわらず、その画像自体が誤解を招く可能性があるとシステムが判断した場合に選択することができるそうです。「画像について」というタグが付いたノートは、画像について言及していることが誰にでも判別できるようになり、システムが同じ画像を含むと認識したすべてのツイートで表示されるようになるとのこと。

この機能は記事作成時点で実験段階であり、画像が1枚しかないツイートのみが対象となっています。今後、複数の画像を含むツイートや、GIFまたは動画を含むツイートも対象となる予定です。