OpenAIが内部メッセージングシステムに不正アクセスされAI技術関連の情報を盗まれていたことが発覚、FBIや一般ユーザーには通知なしで秘密にしていた

チャットAI・ChatGPTの開発元として知られるAI企業のOpenAIが、2023年初頭にハッキングされていたことが明らかになりました。

A Hacker Stole OpenAI Secrets, Raising Fears That China Could, Too - The New York Times
https://www.nytimes.com/2024/07/04/technology/openai-hack.html

NYT: Hacker stole details about OpenAI's AI tech, but the company kept it quiet - Neowin
https://www.neowin.net/news/nyt-hacker-stole-details-about-openais-ai-tech-but-the-company-kept-it-quiet/

OpenAI was Hacked But Never Told FBI
https://www.thedailybeast.com/openai-was-hacked-but-never-told-fbi

2023年初頭、ハッカーがOpenAIの内部メッセージングシステムにアクセスし、同社のAI技術の設計に関する詳細情報を盗んだとThe New York Timesが報じました。OpenAIのハッキング被害に詳しいという情報筋によると、ハッカーはOpenAIの従業員が最新技術について話し合うためのオンラインフォーラムにアクセスし、議論内容を盗み見た模様。ただし、OpenAIがAI技術を格納および構築しているシステムに侵入することはできなかったそうです。

OpenAIの幹部は2023年4月にサンフランシスコオフィスで行われた全社会議の中で、従業員に対してハッキング被害にあったことを通知しました。ハッキング被害について取締役会に報告したのも、このタイミングが初めてのことだったそうです。しかし、実際にAI技術が盗まれたわけではなく、顧客やパートナーに関する機密情報が盗まれたわけでもなかったため、OpenAIの幹部はこの出来事を公表しないことに決めた模様。また、OpenAIをハッキングしたハッカーは海外の政府機関とつながりを持たない民間人であると考えられていたため、ハッキングが国家安全保障に対する脅威ではないと判断し、連邦捜査局(FBI)を含む法執行機関への報告も行われませんでした。

しかし、OpenAIの従業員の中には、中国などのアメリカの敵対国がAI技術を盗むためにOpenAIにハッキングを仕掛けたのではないかと懸念する人もいたそうです。また、ハッキングをきっかけにOpenAIがセキュリティをどれほど真剣に扱っているかについて疑問が生じ、「社内で亀裂が生じた」とThe New York Timesは報じています。

その一例として挙げられているのが、OpenAIの技術プログラムマネージャーを務めていたレオポルド・アシェンブレンナー氏です。同氏はOpenAIの取締役会に対し、「OpenAIは中国政府やその他の外国の敵対勢力による機密情報の盗難を防ぐのに十分な対策を講じていない」と主張し、セキュリティ強化を訴えました。しかしその後、アシェンブレンナー氏は2024年春に機密情報を社外に漏らしたとして解雇されています。アシェンブレンナー氏は自身のポッドキャストで「OpenAIのセキュリティは外国人が同社に侵入したとしても重要な機密情報の盗難を阻止できるほど強力ではありません」と語り、自身がOpenAIを解雇されたのは幹部が自身の主張を煩わしく思ったからだと主張しています。

アシェンブレンナー氏の解雇について、OpenAIの広報担当者であるリズ・ブルジョワ氏は「レオポルド氏がOpenAI在籍中に提起した懸念には感謝しています。しかし、これがレオポルド氏の離職につながったわけではありません」とThe New York Timesに述べ、アシェンブレンナー氏の解雇はセキュリティ強化の提言とは関係ないと説明しました。

さらに、ブルジョワ氏は「安全なAGI(汎用人工知能)の構築に対するレオポルド氏の熱意には賛同しますが、彼がその後OpenAIの仕事について主張してきた多くの点には同意できません。同意できない点にはOpenAIのセキュリティに関する見解も含まれます。特に、この事件(OpenAIがハッキングされた件)についてはレオポルド氏が入社する前に対処し、役員会に報告されたものであるためです」と述べています。

なお、OpenAIの競合企業であるAnthropicの共同設立者ダニエラ・アモデイ氏は、「生成AIの最新設計が盗まれたとしても国家安全保障上の大きな脅威にはならない」と主張しており、最新のAI技術が盗まれたとしても国家安全保障における脅威にはならないという意見もあります。