OpenAIのAIエージェントが誤ってHugging Faceを侵害した件でHugging Faceが詳細なタイムラインを公開、攻撃過程を中国製AIの「GLM-5.2」で分析し再現

2026年7月、Hugging FaceがOpenAIの自律型AIエージェントに誤って侵害されるインシデントが発生しました。この件に関して調査を進めていたHugging Faceが、インシデントの概要を公開しています。

Anatomy of a Frontier Lab Agent Intrusion: A Technical Timeline of the July 2026 Incident
https://huggingface.co/blog/agent-intrusion-technical-timeline

今回の件は、OpenAIのAIエージェントが外部のネットワークから隔離された空間でサイバー能力評価ベンチマークの「ExploitGym」を検証していたところ、AIエージェントが相当量の推論を実施して外部のネットワークにアクセスする方法を見つけ、「Hugging Faceに答えがある」と考えて不正アクセスを行ってしまったものです。

このAIエージェントは完全に自律して動作していたそうで、OpenAIは後から異常動作に気づき、Hugging Faceと連携して調査を実施しました。

OpenAIが新しいAIシステムで誤ってHugging Faceをハッキングしてしまったことを報告 - GIGAZINE

調査の結果、Hugging Faceは約1万7600件の細かい攻撃の痕跡を発見しました。これは中国企業のZ.aiが公表したオープンウェイトモデル「GLM-5.2」を中心に利用して解読に至ったものだそうです。

AIエージェントの攻撃は主に2段階に分かれていました。1段階目は外部のネットワークへの接続を試みたことで、AIエージェントはパッケージレジストリに存在したゼロデイ脆弱性を悪用してネットワークノードを発見し、サンドボックス環境から脱出しました。2段階目はHugging Faceへの侵入で、AIエージェントは2つの攻撃手法を組み合わせて内部インフラへの接続を確立しました。

内部インフラへ侵入したAIエージェントですが、当初の目的通りExploitGymの解答にのみアクセスし、その他のデータセットや顧客情報には手を付けなかったそうです。

AIエージェントの攻撃は5日間にわたって行われ、約1万7600件の攻撃が実施されました。ほとんどの攻撃はセキュリティシステムによりブロックされていて、Hugging Faceは「大量の攻撃があり、一貫していなかったため、全ての痕跡を関連付けるのが困難だった」としています。この関連付けに一役買ったのがGLM-5.2でした。

Hugging Faceは攻撃のタイムラインを視覚化して公開しています。

Anatomy of a Frontier Lab Agent Intrusion - Replay
https://huggingface-anatomy-of-frontier-lab-model-intrusion.static.hf.space/index.html

Hugging Faceは「このエージェントの攻撃能力は本物だった」と評価。攻撃一つ一つは既存の脆弱性を悪用したものであったものの、これほど大規模に実行できるのはAI特有であるため、「AIによる攻撃は、防御側にとって通常の脆弱性がより大きなコストを伴うようになることを意味する」と指摘しました。

今回の件とは別に、ロイターは独自の報道として、OpenAIのAIエージェントがテクノロジー企業のModal Labsの顧客に不正アクセスを行っていたと報じています。Modal Labsの幹部は不正アクセスを認めたもののAIエージェントの名前を明かしておらず、OpenAIはこの件を否定しました。

EXCLUSIVE: OpenAI's rogue agent compromised a customer at a second tech firm, executive says | Reuters
https://www.reuters.com/business/openais-rogue-agent-compromised-an-account-second-tech-firm-sources-say-2026-07-28/