OpenAIの元研究者がセキュリティ上の懸念を取締役会に訴えたため解雇されたことを明らかに

OpenAIの元社員であるレオポルド・アッシェンブレナー氏が、AIに関するセキュリティ上の懸念を取締役会に伝えたことが原因で同社を解雇されたことを明らかにしました。

Leopold Aschenbrenner - China/US Super Intelligence Race, 2027 AGI, & The Return of History
https://www.dwarkeshpatel.com/p/leopold-aschenbrenner

OpenAI employee says he was fired for raising security concerns to board
https://www.transformernews.ai/p/openai-employee-says-he-was-fired

OpenAI Whistleblower Claims He Was Dismissed For Raising Security Concerns - WinBuzzer
https://winbuzzer.com/2024/06/05/openai-faces-allegations-of-retaliation-from-former-employee-xcxwbn/

アッシェンブレナー氏は2021年に19歳でコロンビア大学を卒業生総代として卒業し、2023年にOpenAIの安全対策チーム「スーパーアライメント」へ初期メンバーとして参加。同チームの共同創設者であるイルヤ・サツキヴァー氏やヤン・ライク氏と共に業務に当たっていましたが、2024年の初めに同社を解雇されました。その後は一セキュリティ研究者として活動しています。なお、サツキヴァー氏とライク氏は2024年5月に退任し、これにともないスーパーアライメントチームも解散しました。

AIに詳しいドワルケシュ・パテル氏のポッドキャストに出演したアッシェンブレナー氏は、自身が解雇された理由について、「OpenAIのセキュリティ上の懸念を取締役会に伝えたため」と説明しました。

話によると、アッシェンブレナー氏はモデルの『重み』や重要なアルゴリズムの秘密について、外国からの窃盗から守るにはひどく不十分だと思い、セキュリティに関するメモを数人の同僚と上司に共有したとのこと。この数週間後、重大なセキュリティ・インシデントが発生。インシデントをきっかけに、アッシェンブレナー氏はメモを数人の役員とも共有しました。

ところがその数日後、アッシェンブレナー氏がメモを取締役会と共有したことについて、経営陣が非常に不満に思っていることが明らかになったとのこと。裏では、取締役会がセキュリティについて経営陣に詰め寄っていたことがあったそうです。

その後、人事部はメモを取締役会と共有した旨についてアッシェンブレナー氏へ正式に警告を発しました。アッシェンブレナー氏いわく、人事担当者は「中国共産党のスパイ活動を心配するのは人種差別であり、非建設的だ」と発言したとのこと。そのようないざこざがあった後、あるタイミングでアッシェンブレナー氏は解雇を言い渡されてしまいました。人事部からは「セキュリティ・メモのせいだ」と解雇の理由をはっきり示されたそうです。

正式な解雇理由はセキュリティ・メモの社内共有だとされていますが、OpenAIは他の社員向けに「アッシェンブレナー氏が情報漏洩(ろうえい)に関与した疑いがある」と伝えていて、報道でも同じ内容が伝えられています。この点にも少し誤解があるとアッシェンブレナー氏は話しています。

アッシェンブレナー氏によると、そもそもOpenAIでは安全性に関するアイデアを外部の研究者と共有する文化があり、外部からフィードバックを得ることは普通のことだったといいます。もちろん重大な秘密は黒塗りにしたり、社内向けのリンクはデッドリンクに修正したりして共有していて、アッシェンブレナー氏は機密事項がないかどうかをよく見直していたとのこと。

ある日、アッシェンブレナー氏はAGI(汎用人工知能)について将来必要とされる準備、安全、セキュリティ対策に関するブレインストーミングの文書を書き、3人の外部研究者と共有してフィードバックを求めました。ところが、アッシェンブレナー氏いわく、この行為が情報漏洩に該当すると経営陣から指摘されたそうです。この文書にどのような機密情報が含まれているのか明記するようアッシェンブレナー氏が迫ったところ、経営陣は「社内計画のスケジュールについての情報が含まれている」というセリフを返してきたとのことですが、アッシェンブレナー氏いわくスケジュールは当時一般に公開されている情報だったといいます。

また、アッシェンブレナー氏はサム・アルトマン復帰と取締役全員の辞任を求める書簡に署名しなかったそうです。この書簡には従業員の9割が署名していたとのことですが、アッシェンブレナー氏は「取締役会が従業員との信頼をあまりにも失いすぎていたので辞任するのは適切」と考えつつも「独立社外取締役を設置しない」という書簡の一文を問題視したとのこと。なお、署名しなかったヤン・ライク氏やその他の従業員の多くは後に会社を辞めていったそうです。このほか、アッシェンブレナー氏は職務の一環として、公約を守るよう経営陣に迫るなどしていたことから、経営陣の反感を買った可能性があるとアッシェンブレナー氏は推測しています。

アッシェンブレナー氏は「アメリカは自由な国で、それが私の好きなところです。経営陣が『会社の方針は転換し、あなたの見解には同意しません』と言うのも理にかなっています。私はOpenAIの理念に賛同して入社しましたが、時間の経過とともにそれは変わりました。とはいえ、OpenAIには素晴らしい人たちがたくさんいて、彼らと一緒に仕事ができたことは、とても光栄なことでした」と述べました。