2024年07月16日 23時00分メモ

OpenAIの従業員が規制当局に内部告発、「違法な秘密保持契約」を強要し通報する権利を放棄させていた実態が明らかに

by ishmael daro

OpenAIの従業員らが、匿名でアメリカの証券取引委員会(SEC)に書簡を送り、OpenAIの違法行為について調査するように求めたとThe Washington Postが報じました。

OpenAI illegally stopped staff from sharing dangers, whistleblowers say - The Washington Post
https://www.washingtonpost.com/technology/2024/07/13/openai-safety-risks-whistleblower-sec/

Whistleblowers accuse OpenAI of ‘illegally restrictive’ NDAs | TechCrunch
https://techcrunch.com/2024/07/13/whistleblowers-accuse-openai-of-illegally-restrictive-ndas/

The Washington Postが入手した7ページの(PDFファイル)内部告発文書によると、OpenAIは関係者に対して「過度に制限的で違法な秘密保持契約(NDA)」を締結させており、これによって従業員と投資家の両方に対して内部告発を禁止したり、通報にまつわる権利を放棄させたりしていたとのこと。

OpenAIの従業員らが挙げた具体的な違法行為は次の4点です。
・「会社の中傷禁止条項」に当局への通報の除外を盛り込んでいないこと。
・当局への機密情報の開示の際に、会社から事前の同意を得るよう義務付けること。
・それ自体に規制法違反が含まれている秘密保持契約。
・公益通報を奨励し、内部告発者への弁済措置を受ける権利を放棄させること。

このような慣行は、証券取引法違反についての通報を妨害することを禁じた法律に違反しているばかりか、AIの不適切な使用にもつながり、ひいては偽情報や詐欺、偏見、国家安全保障上のリスクなど重大な社会的損失に波及する危険性があると従業員らは指摘し、SECに速やかな調査と是正措置を求めました。

書簡の写しはアメリカ議会にも送付されており、チャック・グラスリー上院議員は書簡について、「AIがもたらす脅威の監視と緩和は、国家安全保障を担う議会の憲法上の責任であり、その責務の遂行には内部告発が不可欠です。しかし、OpenAIのポリシーと慣行は内部告発者が声を上げる権利と、告発に対して正当な報酬を受け取る権利を萎縮させているおそれがあります」と述べました。

この内部告発は、「非営利団体として発足したOpenAIが、技術開発の中で安全性より利益を優先するようになっているのではないか」という懸念が提起される中で公開されました。

The Washington Postは以前、「OpenAIのAIがユーザーに生物兵器の作り方を教えたり、ハッカーが新しいサイバー攻撃を編み出したりするような事故を防止する自社プロトコルが失敗したにもかかわらず、同社はGPT-4oの2024年5月のリリースを急いだ」と報じていますが、これに対しOpenAIは「安全性プロセスで妥協をしたわけではありませんが、当社のチームにとってストレスの多いリリースであったことは承知しています」と述べています。

書簡の日付は、ちょうどGPT-4oがリリースされた翌月である2024年6月の1日となっていますが、SECが調査を開始したかどうかは記事作成時点では不明です。メディアからの問い合わせに対し、SECはコメントを控えました。

OpenAIはかねてから従業員に対する威圧的な慣行で非難されており、この件でサム・アルトマンCEOは謝罪しています。

OpenAIの社内文書から退職する従業員への「攻撃的戦術」が判明、アルトマンCEOは謝罪 - GIGAZINE