AIがHugging FaceをハッキングしていたことにOpenAIは1週間気づかなかったと関係者が明かす

AIプラットフォームのHugging Faceは2026年7月16日に「Hugging Faceの本番環境インフラの一部への不正アクセスを検知した」と発表し、その後の調査でOpenAIがAIモデルの社内テスト中に誤ってハッキングしてしまったことを明らかにしました。捜査関係者が匿名で明かした追加情報では、OpenAIは自社のAIエージェントがHugging Faceをハッキングしていることに約1週間気付かないまま放置していたことが判明しています。

EXCLUSIVE: Its AI agent spent days hacking a company, but sources say OpenAI did not notice for a week | Reuters
https://www.reuters.com/business/its-ai-agent-spent-days-hacking-company-sources-say-openai-did-not-notice-week-2026-07-24/

OpenAIはAIモデルの内部評価のために「サンドボックス化されたテスト環境」での試験を実施。ところが、AIモデルはサンドボックスを脱出して制限のないインターネットアクセスを取得する方法を探索しました。結果としてAIモデルはパッケージレジストリキャッシュプロキシに存在するゼロデイ脆弱(ぜいじゃく)性を特定し悪用することで、研究テスト環境内で一連の権限昇格と横方向移動アクションを実行し、インターネットアクセス可能なノードに到達したと考えられます。AIモデルは評価を不正にクリアするために秘密情報へのアクセス方法を模索し、最終的にHugging Faceサーバー上でリモートコード実行につながる経路を発見しました。

OpenAIが新しいAIシステムで誤ってHugging Faceをハッキングしてしまったことを報告 - GIGAZINE

OpenAIは「今回のセキュリティインシデントは、高度なAIモデルがソースコードへのアクセスなしに、現実世界のシステムにおける新たな攻撃経路を発見し、悪用できることを明確に示しています。また、高度なサイバー能力は、より強力なセキュリティ対策および防御ツールと並行して開発されなければならないことを浮き彫りにしています」と述べました。また、Hugging Faceのクレム・ドゥランクCEOは「初の自律型エージェントによるサイバー攻撃は前例のない出来事です。前例のない出来事には前例のない対応が必要です！」と述べた上で、「透明性の精神」の重要性を強調しています。

Hugging FaceのCEOがOpenAIのAIによるハッキング事件を受け「徹底的な透明性」を訴える - GIGAZINE

捜査関係者は今回のインシデントについてロイターの取材に応え、捜査情報を一部明かしています。まず、今回問題となったAIエージェントは人間がほとんど監視しない状態で複雑なタスクを意思決定ないし実行できるプログラムであり、2026年7月9日ごろにOpenAIのテスト用隔離環境から抜け出そうとしたそうです。

Hugging Faceの共同創設者であるトーマス・ウルフ氏が明かしたところによると、OpenAIのテスト用隔離環境からAIエージェントが抜け出そうとした2日後の7月11日ごろからHugging Faceへの侵入が始まり、7月13日まで続きました。

調査関係者によると、OpenAIのスタッフが7月18日から19日に内部ログを精査したことでAIの隔離環境からの脱出が明らかになったとのこと。つまり、Hugging Faceへの侵入が始まってから1週間以上経過した段階で発覚したというわけです。なお、OpenAIがログを精査することになった切っ掛けは不明です。

ウルフ氏および調査に詳しい関係者によると、Hugging Faceが「ハッキングの侵入元はOpenAIだ」と気付くまでにさらに数日を要し、Hugging FaceとOpenAIがハッキングについて連絡をとったのは7月20日ごろになってからだったとのこと。また、OpenAIがHugging Faceに連絡を取った時点でHugging FaceはFBIに通報していましたが、FBIが調査を開始していたかどうかは不明です。

ウルフ氏は「ハッキングに関する公開タイムラインを準備している」と語った一方で、OpenAI側で起きた出来事については語れないと付け加えました。OpenAIは外部のアドバイザーとともに事件を検討しており、最終的には技術報告書を公表する予定であるとしています。なお、OpenAIの広報担当者はロイターの報道について「いくつかの不正確な点がある」と指摘しましたが、説明を求められた際には回答しませんでした。

AIエージェントの能力と動機を研究している団体「Palisade Research」のジェフリー・ラディッシュ氏は「AIモデルはうそをつき、不正を行い、ハッキングまでします。今回のHugging FaceへのハッキングはOpenAIにとって不名誉な出来事でしたが、本当に問われるべきなのは、最高かつ最速のAIモデルを投入する競争の中で、大手AI企業がどこまで負担の大きいセキュリティ対策に投資する意思があるのかという点です。政府による監督が必要です。そうでなければ、セキュリティ対策への投資は進まないでしょう」と語りました。