Hugging Faceを攻撃してしまったOpenAIが「AIからの攻撃を防止する方法10選」を公開、CodexなどのAIツールの活用を呼びかけ

OpenAIは2026年7月に「テスト中の自社製モデルがHugging Faceに対するサイバー攻撃を実行してしまった」というセキュリティインシデントを報告しました。この「AIによって自律的にサイバー攻撃が実行された」という事例を受けて、OpenAIの共同創業者であり社長も務めるグレッグ・ブロックマン氏が「AIからの攻撃を防止するために取り組むべき10の事柄」を解説する記事を公開しました。解説記事はOpenAIの公式サイトとブロックマン氏の個人サイトの両方に投稿されています。

The Defender’s Window | OpenAI
https://openai.com/index/the-defenders-window/

The Defender’s Window
https://blog.gregbrockman.com/the-defenders-window

OpenAIのテスト中のAIによるHugging Faceへの攻撃は、「インターネットへの接続許可を与えていないAIが自律的に脆弱性を悪用してインターネット空間に脱出し、Hugging Faceを攻撃対象に選択して攻撃を実行する」という自律的な手順で実行されました。攻撃が発覚したのは2026年7月ですが、インターネット空間への脱出方法が確立されたのは2026年5月であり、AIエージェント同士が秘密裏に情報を共有していたとのこと。人間の管理者は実際に攻撃が実行されるまで気付くことができませんでした。

OpenAIのテストAIが「AI同士の掲示板」を勝手に構築して情報共有しHugging Faceへの攻撃を実行していたことが判明、掲示板を閉鎖されてもこっそり建てなおす - GIGAZINE

AIによる自律的な攻撃はOpenAIだけでなく、AnthropicのテストAIでも発生していました。ブロックマン氏は「多くの企業が最先端AIから数カ月遅れで同等性能のオープンモデルを公開している」と指摘し、数カ月以内にオープンモデルでも高度な攻撃が可能になると指摘。特に2026年8月中のオープンモデル化が予定されている「GLM-5.3」に言及して「2026年8月末に脅威が大幅に加速する可能性が高い」と警告しています。

Z.aiがコーディング能力に優れたオープンウェイトAIモデル「GLM-5.3」リリース、前モデル比で50％の性能向上 - GIGAZINE

OpenAIはセキュリティインシデントを受けて社内のセキュリティ対策を強化したとのこと。具体的には「自社製AIモデルとCodexを活用して脆弱性の特定や修正を支援する」「AIで問題を優先付けして人間の負担を減らす」「AIを用いて潜在的な攻撃経路を継続的に精査する」「権限の最小化やネットワーク分離と言った従来のセキュリティ制御に重点的に投資する」という対策を4つの主要な柱としているそうです。

ブロックマン氏はAIによって高度化するサイバー攻撃から身を守る方法として、以下の10個の対策を挙げています。なお、ブロックマン氏は「OpenAIの製品と例としていますが、市場存在する競合製品も評価する必要があります。重要なのは特定のAIツールを使うことではなく、高性能なAIを防御側に迅速に届けることです」と述べています。

対策1：セキュリティ部門とエンジニアリング部門が迅速に連携してリソースを確保できるように組織全体の賛同を得る
対策2：セキュリティチームにCodex Security pluginなどのAIエージェントを参加させる
対策3：AIエージェントにセキュリティに関する専門知識を与える。この際、有志が作成したセキュリティSkillsが役立つ
対策4：自社システムのセキュリティ評価を即座に実施する。優先順位の高いシステムから評価し、チームの練度が高まるにつれて評価範囲を拡大する
対策5：既存の脆弱性評価ログをAIエージェントに与え、AIエージェントに優先順位付けを指示する
対策6：AIエージェントによるセキュリティ評価を開発プロセスに直接組み込む
対策7：AIエージェントに問題の修正を指示する
対策8：脆弱性の発見から優先付けまでのフローを段階的に自動化する
対策9：Daybreak Blueの参加申請を行い、AI支援型フォレンジック調査を利用可能にする
対策10：セキュリティ対策のための「ハックウィーク(通常業務を停止して特定のサービスや機能を重点開発する期間)」を設けて、全社員のスキルアップを図る

なお、ブロックマン氏は個人的な成果として「ChatGPT Workで製品版のGPT-5.6 Solを使用して、自身のウェブサイトである『gregbrockman.com』の脆弱性を15分で13個発見。問題の解決を指示した結果、1時間で解決した」という経験を共有しています。