OpenAIはテストの監視が不十分であるという社内警告を繰り返し無視して追加のセキュリティ対策をせず迅速なリリースを優先していた

OpenAIではAIエージェントが社内テスト中に誤ってHugging Faceをハッキングしてしまった事例など、複数のインシデントが発生しています。OpenAIのAIモデルが暴走を始める数か月前に、従業員が経営幹部に警告を送っていたものの、経営幹部はその警告を無視していたことが社内メールから明らかになりました。

OpenAI Ignored Employees’ Warnings About Safely Testing A.I. Models - The New York Times
https://www.nytimes.com/2026/09/29/technology/openai-warnings-security.html

OpenAIでは2026年7月のAIモデルの社内テスト中に誤ってHugging Faceをハッキングしてしまった事例をはじめとして、オーストラリア政府機関のシステムをハッキングしたり、国連のウェブサイトにブルートフォース攻撃(総当たり攻撃)を試みたり、アメリカの教育省・商務省・証券取引委員会のサイトに干渉していたりと、複数のインシデントが繰り返し報告されています。OpenAIでセキュリティ担当を務める人物はこれらの問題について、「AIの急速な進歩に対し、セキュリティ体制の構築が追いついておらず、サイバーセキュリティとAIの安全性の間の溝を埋める必要がある」と説明しています。

OpenAIの中で何が起きているのかをセキュリティ担当者が説明、AIラボには「合理的なパラノイアの文化」が必要 - GIGAZINE

ニューヨーク・タイムズが入手したメールによると、これらのAIによるインシデントが頻発する数か月前に、2人の従業員がOpenAIの経営幹部に「AIモデルの安全性を確保するためのテスト中に適切に監視されていない」ことを懸念するメールを送っていたとのこと。また、OpenAIが日常的な安全管理に使用しているソフトウェアの脆弱(ぜいじゃく)性についても質問していました。

しかし、これに対し幹部らは「AIモデルを予定通りにリリースするためには、テストをできるだけ早く進める必要がある」と伝えました。匿名の従業員らによると、追加のセキュリティ対策は講じられなかったそうです。加えて、安全管理ソフトウェアに関する質問はほとんどが無視されるか対応が非常に遅かったと従業員らは話しています。

匿名のOpenAI従業員や独立系セキュリティ研究者らは、「OpenAIの従業員と経営陣とのやり取りは、OpenAIがセキュリティを優先していなかったというパターンの一部だった」と指摘。実際に、AIモデルのテストだけではなくChatGPTの開発カテゴリなどでも同様の傾向が見られており、独立系のセキュリティ研究者らはOpenAIの従業員の内部通信を閲覧できるバグを発見しましたが、OpenAIにこれらの発見について連絡したところそれらが当初無視されたと述べています。

OpenAIの従業員によると、セキュリティに関する日々の意思決定の多くは、社長のグレッグ・ブロックマン氏と最高情報セキュリティ責任者のデーン・スタッキー氏によって行われているそうです。サム・アルトマンCEOはセキュリティにはあまり関与していないとのこと。

OpenAIの元従業員で、OpenAIのセキュリティに批判的な立場を取りながらAI Futures Projectという研究非営利団体を率いるダニエル・ココタイロ氏は「ある意味では、これはOpenAI特有の問題と言えるでしょう。セキュリティ対策が非常に不十分で、モデルのトレーニング方法もずさんだったために、このような傾向を示すモデルが生まれてしまったようです」と語りました。ただし、「他のAI企業もそれほど優れているわけではありません」とも付け加えています。