2024年10月11日 06時00分メモ

OpenAIが「悪意のある者がChatGPTを使って選挙を妨害しようとしている」と報告

OpenAIが、AIの影響力と不正使用に関する包括的な分析についての報告書を2024年10月9日(水)に発表しました。OpenAIはこの報告書の中で、「悪意のある人物がChatGPTを利用して、選挙や政治活動に影響を与えようとしている」と述べています。

Influence and cyber operations: an update OpenAI
(PDFファイル)https://cdn.openai.com/threat-intelligence-reports/influence-and-cyber-operations-an-update_October-2024.pdf

OpenAI says more cyber actors using its platform to disrupt elections
https://www.cnbc.com/2024/10/09/openai-says-more-cyber-actors-using-its-platform-to-disrupt-elections.html

OpenAIは、AIがセキュリティ防御に役立つ一方で、攻撃者はAIを主に中間段階で使用していると指摘しています。具体的には、攻撃者はインターネットアクセスや電子メールアドレス、ソーシャルメディアアカウントを取得した後、マルウェアやソーシャルメディア投稿を広範囲に展開する前の段階で、AIを利用しているとのこと。

例えば、「SweetSpecter」と呼ばれる中国を拠点とする脅威アクターは、OpenAIの従業員を標的にしたスピアフィッシング攻撃を試みたとのこと。SweetSpecterはChatGPTユーザーを装って悪意のある添付ファイルを送信し、さらにAIを使って偵察、脆弱性調査、スクリプト作成支援などを行おうとしましたが、OpenAIのセキュリティシステムによってブロックされたそうです。

また、2024年8月にイランの「STORM-0817」と呼ばれる脅威アクターは、Android端末を標的としたマルウェア開発とSNSのスクレイピングツールをAIで作成しようとしていました。

OpenAIによると、AIの使用が攻撃者の能力を大幅に向上させたり、大きな影響力を持つ攻撃を可能にしたりした証拠はみられないそうで、GPT-4oなどによってセキュリティを悪用しようとする者の能力を大きく向上させていない評価と一致しているとOpenAIは主張しています。

報告書では、選挙や政治に関連したAIの不正使用についても触れられています。

例えば、アメリカを拠点とする「A2Z」と呼ばれる脅威アクターは、X(旧Twitter)とFacebookに政治的なコメントを投稿していたことがわかっています。このグループは投稿する政治的なコメントをChatGPTで生成しており、特にアゼルバイジャンを称賛するコメントに焦点を当てていたとのこと。

また、2024年7月にはルワンダの選挙に向けて、ルワンダ愛国戦線のメリットを強調するような投稿を多数生成していたグループや、2024年4月に獄中死したアレクセイ・ナワリヌイ氏が代表を務めていた反汚職財団を批判するコメントをSNSに投稿していたグループなど、ChatGPTで自動生成したメッセージをインターネット上に多数投稿するケースが報告されています。

ただし、OpenAIはこれらの活動の多くが複数のプラットフォームで行われていたものの、その影響は限定的だったと評価しています。多くの場合、生成されたコンテンツはほとんど注目を集めず、エンゲージメントも低かったそうで、いずれのケースについても24時間以内に対処できたとOpenAIは述べました。

2024年11月にはアメリカ大統領選挙が控えており、日本でも2024年10月9日に衆議院が解散したことで10月27日に総選挙が開催されるなど、2024年の後半にも世界中で選挙イベントが目白押しの状態。OpenAIは2024年1月に、選挙でのAI悪用を防ぐための取り組みを発表しています。

OpenAIが2024年の選挙ラッシュでAIが悪用されることを防ぐための施策を発表 - GIGAZINE