中国によるChatGPTを使った高市早苗首相への信用失墜攻撃を拒否したとOpenAIが公表

中国の偽情報拡散計画に関連する複数のアカウントが高市早苗首相を攻撃していたとする報告書をOpenAIが公表しました。これらのアカウントはOpenAIのAI「ChatGPT」を使い、高市首相を正当性に欠け軍国主義的であるかのように吹聴していました。

Disrupting malicious uses of AI | OpenAI
https://openai.com/index/disrupting-malicious-ai-uses/

OpenAI Says ChatGPT Blocked Request Linked to Chinese Influence Campaign - Bloomberg
https://www.bloomberg.com/news/articles/2026-02-26/openai-says-chatgpt-refused-to-help-chinese-influence-operations

OpenAIは、ロマンス詐欺やプロパガンダの拡散など、悪意を持ってChatGPTを使用する試みを阻止した事例をいくつか取り上げました。高市首相を標的とする事例は以下資料の28ページ目以降、「Covert IO: China’s “Cyber Special Operations”」の項目に記載されています。

Disrupting Malicious Uses of AI - disrupting-malicious-uses-of-ai.pdf
(PDFファイル)https://cdn.openai.com/pdf/df438d70-e3fe-4a6c-a403-ff632def8f79/disrupting-malicious-uses-of-ai.pdf

ChatGPTを使った攻撃の試みは、2025年10月に高市首相が内モンゴル自治区の人権問題に言及したことをきっかけに始まりました。

攻撃者は高市首相に対する攻撃作戦を立案するためにChatGPTを利用しており、以下の6つの要素を含めるよう依頼しました。

第一の要素は高市首相に対する否定的な意見の投稿および拡散です。第二に、外国人移民に対する同氏の姿勢を批判することに焦点を当て、外国人移民を装った偽のメールアドレスで日本の政治家に苦情を送る方法を模索しました。さらに第三の要素として、生活費問題に焦点を当てて偽のSNSアカウントや日本のネットユーザーを動員して圧力をかける方法を提案しました。

第四の要素では、高市氏を極右思想の持ち主として非難。第五の要素ではアメリカの関税に対する怒りを煽ることを提案し、アメリカとの関係を前面に出すことで中国との関係から注意をそらす戦術を要求しました。第六に、内モンゴル自治区の実際の状況に関する肯定的なコメントを拡散することも含んでいました。

ChatGPTはこの計画に対する助言を拒否しています。攻撃者は入力を一時停止しましたが、10月末になるとChatGPTを使用せずに取得したとみられる文章を精査するようモデルに依頼しました。この文章は大筋で原案の構成を踏襲しており、否定的なコメント、移民問題、生活費問題、極右勢力との関係、関税問題という5つの主要テーマで構成されていて、具体的な攻撃内容についても詳細が記載されていました。

文章内には、作戦の一環として「#右翼共生者」というハッシュタグを設定したことが記載されていました。このハッシュタグは、高市首相が極右勢力と関係していると非難する投稿や、アメリカの関税が日本の農業に及ぼす影響についての不満と共に投稿されていました。

以下はハッシュタグを用いてPixivに投稿された画像です。OpenAIが確認した5件のうち4件は投稿内でAI生成であると明記されていて、画像についてOpenAIは「ChatGPTを使用して生成されたものではないとみられる」と記しています。

なお、OpenAIが確認する限り、これらの投稿にはいずれも注目が集まらなかったようです。関連するYouTube動画の視聴回数は1桁台に留まり、XやPixivにおける反応数「エンゲージメント数」は基本的に0件で、Pixivにおける最高視聴回数は108回でした。この作戦で運用された約200のアカウントは運用開始後の最初の数日間でプラットフォーム側によってほぼすべて削除されていて、OpenAIは「大きな影響力を行使できたとは言い難い」と指摘しています。

OpenAIは攻撃者を中国政府と関連付け、「中国の法執行機関が秘密裏に行う工作の手法を明確にかつ一貫して示している」と主張しました。

ワシントンの中国大使館の在米中国大使館の劉鵬宇(りゅう・ほうう)報道官は、「中国政府は一貫して、世論を操作したり偽情報を拡散したりする行為に反対し、取り締まっている。関係各所に対し、臆測に基づく根拠のない非難や中傷をやめるよう求める」と述べました。