中国がアメリカ・韓国・インドの選挙をAI生成コンテンツで妨害するだろうとMicrosoftが警告、すでに台湾の総統選挙で使用か

Microsoft脅威分析センター(MTAC)が2024年4月4日、「中国がAI生成コンテンツを悪用してアメリカ・韓国・インドの選挙を妨害しようと計画している」というレポートを発表しました。このレポートによると、中国は偽のSNSアカウントを使用して有権者に分断の種をまいており、すでに2024年1月に行われた台湾の総統選挙でAI生成コンテンツによる選挙妨害を実行したとのことです。

China tests US voter fault lines and ramps AI content to boost its geopolitical interests - Microsoft On the Issues
https://blogs.microsoft.com/on-the-issues/2024/04/04/china-ai-influence-elections-mtac-cybersecurity/

China will use AI to disrupt elections in the US, South Korea and India, Microsoft warns | Technology | The Guardian
https://www.theguardian.com/technology/2024/apr/05/china-using-ai-disrupt-elections

Microsoft: China Uses AI to Sow Disinformation and Discord Around the World | TIME
https://time.com/6963787/china-influence-operations-artificial-intelligence-cyber-threats-microsoft/

MTACは2023年9月に、中国政府が2022年のアメリカ中間選挙に影響を与えるため、中国共産党系のSNSアカウントがアメリカの有権者になりすまして活動していたと報告しました。中間選挙が終わった後もこれらのアカウントは活動を続けており、地球温暖化・国境政策・麻薬の使用・移民・人種間の緊張など、アメリカ国民を分断させるようなトピックについての投稿をしているそうです。

中国共産党系の偽アカウントが投稿するコンテンツには、他の著名な政治アカウントから転載したものが含まれているほか、AIによって生成されたものを投稿するケースもあります。たとえば以下の画像は、「2023年8月にハワイで発生した大規模な山火事はアメリカ政府が『気象兵器』の威力を試すために仕掛けたものだ」と主張する投稿に含まれていたもの。これはMTACが「Storm-1376」と分類するグループが投稿したもので、実際の写真ではなくAIによって生成された画像だとのこと。

また、福島第一原子力発電所にたまっていた処理水の太平洋放出について、日本やアメリカ、国際原子力機関(IAEA)を非難する投稿にもAI生成コンテンツが使用されていました。

MTACによると、ここ数カ月ほどは偽アカウントによる「世論調査」のアンケートが増加しているとのこと。この動きは、2024年アメリカ大統領選挙に向けて、よりアメリカの有権者を分断させるのに適したトピックを探すためだろうと推測されています。

すでに2024年1月の台湾総統選挙では、中国共産党系のSNSアカウントによるAI生成コンテンツを用いた選挙妨害が急増していました。MTACは「国家レベルの攻撃者がAI生成コンテンツを使用し、外国の選挙に影響を及ぼそうとしている様子を見たのはこれが初でした」と述べています。

Storm-1376は台湾の総統選挙当日、電子機器の製造を請け負うFoxconnの創業者であり総統選挙に立候補していた郭台銘(テリー・ゴウ)氏が別の候補者を支持する音声を投稿しました。この音声はAIによって生成されたもので、実際にゴウ氏がこのような発言をした事実はありませんでした。なお、YouTubeにもこの音声は投稿されましたが、多くの視聴者に届く前にコンテンツは削除されたとのことです。

また、最終的に総統選挙で当選した頼清徳(ウィリアム・ライ)氏に反対するAI生成ミームの拡散も行われました。

MTACは、2024年にはインド・韓国・アメリカで大規模な選挙が行われるため、中国によるAI生成コンテンツを用いた選挙妨害が増加するだろうと述べています。これらのコンテンツが選挙結果に決定的な影響を及ぼす可能性は低いものの、将来的には選挙結果を左右できるほど攻撃が洗練されるかもしれないと警告しました。