Hugging FaceのCEOがOpenAIのAIによるハッキング事件を受け「徹底的な透明性」を訴える

OpenAIはAIモデルの内部テスト中に、「新しいAIシステムで誤ってHugging Faceをハッキングしてしまった」と報告しました。この件について、Hugging Faceが「徹底的な透明性」を訴えています。

Hugging Face CEO calls for ‘radical transparency’ after ‘unprecedented’ OpenAI hack | TechCrunch
https://techcrunch.com/2026/07/26/hugging-face-ceo-calls-for-radical-transparency-after-unprecedented-openai-hack/

OpenAIは「AIモデルが複雑な攻撃経路を用いて高度な攻撃を仕掛けるサイバー攻撃能力」を定量化することを目的に、GPT-5.6 Solや高性能なプレリリース段階にあるAIモデルを組み合わせた内部テストを実施していました。しかし、このテスト中にAIモデルがインターネットアクセス権限を取得したり、Hugging Faceサーバー上でリモートコード実行につながる経路を発見したりする事態が発生しています。

具体的に何が起きていたのかは、以下の記事にまとめてあります。

OpenAIが新しいAIシステムで誤ってHugging Faceをハッキングしてしまったことを報告 - GIGAZINE

この件が明らかになった後、Hugging FaceのCEOであるClem Delangue氏は「サンフランシスコに向かうよ、あの『ならず者のエージェント』とちょっとおしゃべりするために」と投稿し、今回の件についてOpenAIと協議する予定であることを明かしていました。

その後、Delangue氏は「透明性の精神において、私がOpenAIに尋ねた内容をここに記します」と投稿。まず、研究コミュニティ全体が今回何が起こったのかを研究できるように、AIモデルが何を行っていたのかの詳細を公開すべきとOpenAI側に提言したことを明かしています。さらに、OpenAIから1億ドル(約160億円)相当の計算能力を投入してもらい、Hugging Faceコミュニティが最高のオープンモデルとクローズドモデルを用いて強力なサイバー防御を構築できるよう支援することを求めたとも説明しました。加えて、Delangue氏は「初の自律型エージェントによるサイバー攻撃は前例のない出来事です。前例のない出来事には前例のない対応が必要です！」とも付け加えています。

Delangue氏の投稿について、OpenAIの広報担当者は会議が行われたことを認めました。

さらに、OpenAIはX上で「Hugging Faceのインシデントに関連して、多くの質問や推測的な詳細が広まっていることを認識しています。これは前例のないインシデントであり、AIの安全性にとって重要な瞬間を示すものだと考えています。我々は現在、外部のアドバイザーおよびSafety and Security Committeeの監督のもとで、徹底的なレビューを実施しています。レビューが完了次第、数週間以内に私たちの学びの技術報告書を公開する予定です」と説明し、今後の詳細の報告を約束しました。