北朝鮮ハッカーがOpenAIのAIを使って「攻撃用コードの作成」や「詐欺メールの作成」を試みていたことが判明

OpenAIが悪意あるユーザーによるAI使用に関するレポートを2025年2月21日に公開しました。レポートによると北朝鮮のサイバー犯罪集団がOpenAIのAIを活用しており、マルウェアのコーディング方法を尋ねたり経歴詐称用のSNS投稿を作成させたりしていたそうです。

Disrupting malicious uses of AI | OpenAI
https://openai.com/global-affairs/disrupting-malicious-uses-of-ai/

OpenAI bans ChatGPT accounts used by North Korean hackers
https://www.bleepingcomputer.com/news/security/openai-bans-chatgpt-accounts-used-by-north-korean-hackers/

OpenAIは北朝鮮の脅威アクターに関連すると考えられるアカウントを複数件発見し、アカウント停止措置を実行しています。発見されたアカウントは北朝鮮のサイバー犯罪集団であるVelvet Chollima(別名：キムスキー、Emerald Sleetなど)やStardust Chollima(別名：APT38、Sapphire Sleetなど)との関連性が見いだされたとのこと。

北朝鮮のサイバー犯罪集団がOpenAIのAIツールを用いて実行していた悪意ある行為の一部が以下。「リモートデスクトップクライアントのセキュリティ機能を回避するコードの生成」「仮想通貨の投資家に対する攻撃方法の探索」「機密情報を暴露させるフィッシングメールの作成」といった内容が並んでいます。

サイバー犯罪集団の行動を分析する中で、OpenAIは「未知の攻撃用バイナリのステージングURL」を発見したとのこと。OpenAIは発見したURLをセキュリティスキャンサービスに送信しており、すでに多くのセキュリティソフトが当該バイナリに対応しているそうです。

また、OpenAIは北朝鮮のユーザーが「他国の求職中ユーザー」になりすまして求職用のSNS投稿を作成していることも発見しました。北朝鮮のユーザーがOpenAIのAIを用いて作成したと考えられるSNS投稿の一例が以下。これらの投稿は北朝鮮による外貨獲得の試みの一環と考えられています。

OpenAIの報告書の全文は以下のリンク先で確認できます。

Disrupting malicious uses of our models: an update February 2025 - disrupting-malicious-uses-of-our-models-february-2025-update.pdf
(PDFファイル)https://cdn.openai.com/threat-intelligence-reports/disrupting-malicious-uses-of-our-models-february-2025-update.pdf