Twitterは国防総省が極秘に進める中東プロパガンダ・キャンペーンを2017年から支援していたと内部文書で発覚

マスク氏がTwitterのCEOに就任してから、マスク氏は「Twitterが過去に行った悪いことを表面化する」と宣言し、Twitterの社内文書をまとめた暴露情報「Twitterファイル」の拡散を手伝っています。2022年12月21日に公開された「Twitterファイル」の第8弾では、Twitterがアメリカ軍のプロパガンダ形成に協力していた実態が明らかになりました。

Twitter Aided Pentagon in Covert Propaganda Campaign
https://theintercept.com/2022/12/20/twitter-dod-us-military-accounts/

Twitter Helped Pentagon With Foreign Propaganda Campaign – Rolling Stone
https://www.rollingstone.com/politics/politics-news/twitter-helped-pentagon-foreign-propaganda-campaign-1234650938/

Twitterの幹部は、「Twitterは、政府がプラットフォーム上で支援する極秘のプロパガンダキャンペーンを検出し、それを阻止するために協調的な努力を行っている」と長年にわたって主張していました。しかし、その一方で、米軍のSNSアカウントとネットワークを直接承認すると同時に内部保護を提供し、政府の要請に応じてアカウントの一団をホワイトリストに載せていたと指摘されています。実際に、アメリカ国防総省は、イエメン、シリア、イラク、クウェートなど中東諸国における世論形成のために、アメリカ政府が作成したニュースポータルやミームを含むネットワークを使用してきたとのこと。

問題視されているアカウントは、当初は公然とアメリカ政府と提携していたものでしたが、その後に国防総省の戦術により、政府とアカウントとの関係が隠されるようになりました。これはTwitterが禁止している「意図的なプラットフォーム操作」にあたり、Twitterの幹部はこれらのアカウントを認識していたにもかかわらず、閉鎖することなく活動を続けさせていたと、アメリカのインターネットメディアであるThe Interceptに寄稿したリー・ファン氏は指摘しています。

ファン氏は2022年12月中旬頃、他の少数のライターやレポーターと共に、Twitterの電子メールと内部ツールのアーカイブへのアクセスを許可される機会があったとのこと。マスク氏がTwitterを買収した後、マスク氏は内部文書へのアクセスを開始し「一般論から言って、まずやるべきことは、Twitterが過去に行った悪いことを表面化することです」と述べており、これによりTwitter内で行われた意思決定へ前例のない洞察を得ることができたとファン氏は述べています。内部文書は部分的なものではあるもののアクセスに制限はなく、また文書の使用に関していかなる条件への同意も必要なかったそうです。

ファン氏が確認した内部文書によると、Twitterの国防総省に対する直接的な関与は、少なくとも5年前には始まっていました。2017年7月26日、当時の国防総省における一部門であったアメリカ中央軍(通称、CENTCOM)で働く職員だったナサニエル・カーラー氏は、公共政策チームのTwitter担当にメールを送り、「アカウントの検証を承認すること」と「特定のメッセージを増幅するために使うアラブ語アカウントのリストを、ホワイトリストにしてほしい」という依頼を行いました。カーラー氏の記述によると、ボットとしてフラグを立てられたアカウントのうちいくつかが実際に支持者を得ていたため、ホワイトリストに登録することでその影響力を高めることを目的としていたようす。

匿名を条件にThe Interceptの取材に応じた元Twitter従業員によると、当時のTwitterは中東で活動するテロ組織に関連する悪質な行為にフラグを立てることで、不正利用の検出システムを拡張していました。検出システムによって、過激派グループと頻繁に関与している軍が管理するアカウントは、自動的にスパムとしてフラグが立てられるようになっていたそうです。これによりCENTCOMのアカウントもスパムのフラグが立っていましたが、CENTCOMがリクエストを送ったのと同じ日に、Twitterのサイトインテグリティチームのメンバーが、アカウントに特別な除外タグを社内システムから適用したことが、社内ログに示されています。

アメリカ国防軍がオンライン・プロパガンダに取り組んできたことは長年確認されていますが、2006年には「世界的なテロとの戦い、または他の国防長官の実行命令で指定された場合のみ、国防総省のインターネット活動は、アメリカの関与を非開示にできる。それ以外の場合は、戦闘司令官が作戦上の考慮により不可能と考える場合を除き、アメリカの関与を公然と認めるべきである」と政府が公言しており、不特定の個人を装ったオンライン・プロパガンダは認められていません。一方で2019年には、国防権限法の条項を参照した「1631条」と呼ばれる法案を可決し、ロシア、中国、その他の外国の敵対者によるオンライン偽情報キャンペーンに対抗するために、軍による秘密心理作戦を法的に肯定しています。

ロシア・中国・イランに親アメリカの印象操作をTwitter・Facebook・Instagramで行った大規模な影響力作戦の実態とは？ - GIGAZINE

スタンフォード大学のインターネット観測所に所属するオンラインセキュリティの研究者は、2022年8月に「国家が支援する情報操作の一部と疑われる数千のアカウント」のレポートを公開しました。レポートで公開されたアカウントの一部は、AIがディープフェイクにより生成した「存在しない人の顔」をアカウントのアイコンとして使用しており、その手法やアカウントの一部は、Twitterの内部文書で明らかになった政府関連のアカウントと一致していたとファン氏は指摘しています。

Twitterのスポークスパーソンであるニック・ピッケル氏は2020年に、「プラットフォームの目標は、悪意のあるアクターを排除し、これらの重要なトピックに対する一般の理解を促進することです」と述べていますが、Twitterが政府ないし国防軍と協力している場合は、この姿勢と矛盾します。紛争の外交的解決に向けて活動する非営利団体Just Foreign Policyのエリック・スパーリング事務局長は、「国防総省が海外での軍の役割について世論を形成するために働いているとしたら、そして民間企業がそれを隠す手助けをしているとしたら、さらに悪いことです」と批判的な意見を述べています。

ファン氏が公開した「Twitterファイル」第8弾はマスク氏にも引用リツイートされており、マスク氏お墨付きの情報と言えそうです。