X(旧Twitter)でロシアのプロパガンダを拡散していた約1000個のアカウントを押収したと当局が発表

2022年にウクライナに侵攻して以来、西側諸国との関係が悪化し続けているロシアは、イライジャ・ウッドやマイク・タイソンなどの有名人をだまして反ウクライナのプロパガンダ動画を作成したり、サイバー犯罪による偽情報キャンペーンを展開したりと、執拗な世論工作を行っていることが知られています。新しく、ロシアの国営メディアとロシア連邦保安庁がプロパガンダの拡散に使用していたX(旧Twitter)アカウント968件を押収したと、アメリカ司法省が発表しました。

Office of Public Affairs | Justice Department Leads Efforts Among Federal, International, and Private Sector Partners to Disrupt Covert Russian Government-Operated Social Media Bot Farm | United States Department of Justice
https://www.justice.gov/opa/pr/justice-department-leads-efforts-among-federal-international-and-private-sector-partners

US disrupts AI-powered bot farm pushing Russian propaganda on X
https://www.bleepingcomputer.com/news/security/us-disrupts-ai-powered-bot-farm-pushing-russian-propaganda-on-x/

アメリカ司法省は2024年7月10日の声明で「本日、ロシアの攻撃者がアメリカや海外のソーシャルメディアで偽情報を拡散するためのAI強化型ボットファーム作成に使ったドメイン2件と、ソーシャルメディアアカウント968件を差し押さえたことを発表します」と述べました。

「ボットファーム」とは、SNSで虚偽の人物を大量に作り出すために作られたソフトウェアのことで、プロフィール画像の生成やテキスト生成などにAIが多用されていることがよくあります。

FBIが捜査のために作成した(PDFファイル)宣誓供述書によると、このボットファームの運用には「個人A」として匿名で特定された人物が中心的な役割を果たしていたとのこと。

ロシアの国営ニュースメディア・RT(旧称：ロシア・トゥデイ)の副編集長だった「A」は、RTの主要な情報発信方法であるテレビニュースに代わる手段の開拓を求める指導部の意向を受けて、ボットファームの作成と運用が可能なソフトウェア「Meliorator」の開発を主導しました。

開発は「個人B」を含む複数人によって行われ、2022年4月ごろからはボットファームを運用するためのインフラの購入が開始されました。

さらに、2023年に入るとロシア大統領府、いわゆるクレムリンの承認と財政支援を受けたロシア連邦保安庁(FSB)の職員「FSB職員1」が民間情報工作組織(PIO)を設立しました。このPIOのメンバーの中には、「A」やほかのRTの社員も含まれています。この組織の真の目的は、「ボットファームで作ったソーシャルメディアアカウントで偽情報を広める」というFSBとロシア政府の使命を遂行することであったと、当局は指摘しました。

以下は、ボットファームで作られた偽アカウントによるプロパガンダの例です。アメリカの有権者を自称するこのアカウントは、「ウクライナやポーランド、リトアニアなどの地域は第二次世界大戦中にナチスの支配から解放したロシア軍からの『贈り物』だ」とプーチン大統領が語る動画を投稿していたとのこと。

また別のアカウントは、ウクライナ軍に同行する外国人戦闘員の数が公表より少ないと主張する動画や、「ウクライナ戦争は領土問題や地政学的的な力関係の問題ではなく『新秩序の基盤となる原理』である」とプーチン大統領が語る動画などを投稿していました。

この問題が繰り返されないようにするため、FBIと国防総省のサイバー国家任務部隊(CNMF)はカナダ、オランダの当局と共同で(PDFファイル)サイバーセキュリティ勧告を発表しました。これは、ロシア政府によるテクノロジーの悪用を特定して阻止することを念頭に置いたもので、この勧告を受けてXは今回特定されたボットアカウントを自主的に凍結させたとのことです。

FBIのクリストファー・レイ長官は「この措置は、ロシアが後ろ盾になっていたジェネレーティブAI活用型ボットファームを破壊した初の事例です。ロシアはこのボットファームを使って、AIが生成した偽情報を流布し、ウクライナの同盟国を弱体化させ、ロシア政府に有利な世論に影響を与えようとしていました。FBIはパートナーと協力し、この最も危険な敵対勢力と、彼らが悪意ある目的のために最先端技術を使うのを全力で阻止します」と述べました。