OpenAIがChatGPTなどのAIシステムのバグ報奨金プログラムを開始、報奨金は最大270万円もモデルのコンテンツフィルター解除などは除外

対話型AIのChatGPTを開発したAI開発企業のOpenAIがバグ報奨金プラットフォームのBugcrowdと提携し、AIシステムの安全性を確保するために新たなバグ報奨金プログラムを立ち上げました。脆弱(ぜいじゃく)性を報告したセキュリティ研究者には、個々の脆弱性に対して200ドル～6500ドル(約2万7000円～約86万9000円)が与えられ、最大2万ドル(約270万円)の報奨金が贈呈されるとのことです。

Announcing OpenAI’s Bug Bounty Program
https://openai.com/blog/bug-bounty-program

OpenAI’s bug bounty program - Bugcrowd
https://bugcrowd.com/openai

OpenAI launches bug bounty program with rewards up to $20K
https://www.bleepingcomputer.com/news/security/openai-launches-bug-bounty-program-with-rewards-up-to-20k/

OpenAI to offer users up to $20,000 for reporting bugs | ロイター
https://jp.reuters.com/article/openai-bug/openai-to-offer-users-up-to-20000-for-reporting-bugs-idUSL4N36E3KW

OpenAIはバグ報奨金プログラムの立ち上げを報告したブログで、「OpenAIはAIシステムが安全であることを保証するため、研究とエンジニアリングに多額の投資を行っていますが、すべての複雑な技術と同様、システムに脆弱性や欠陥が現れる可能性があると理解しています。このような現実に対処するためには、透明性と協力が不可欠であると私たちは考えています。そこで私たちはセキュリティ研究者、倫理的なハッカー、技術愛好家などのグローバルなコミュニティに対し、私たちのシステムの脆弱性を特定し、それに対処するために協力を呼びかけています。脆弱性の情報に対するインセンティブを提供することで、協調的な情報開示のコミットメントを構築することに興奮しています」と述べています。

バグ報奨金プログラムを立ち上げるに当たり、OpenAIは以下のようなルールに従ってセキュリティの脆弱性を探すように求めています。

・発見された脆弱性を速やかに報告すること。
・プライバシーの侵害、システムの中断、データの破壊、ユーザーエクスペリエンスの侵害を控えること。
・脆弱性の報告はBugcrowdを通じて行うこと。
・OpenAIのセキュリティチームが公開を許可するまで、脆弱性の詳細を秘密にすること。
・OpenAIの機密データを含む他者のデータにアクセスしたり、変更したり、使用したりしないこと。脆弱性によってこれらのデータが公開された場合、テストを停止してすぐにレポートを送信し、データのコピーを削除すること。
・OpenAIによって許可されない限り、自身のアカウントとだけやり取りすること。
・脆弱性は無条件で開示し、恐喝や脅迫などに使用しないこと。

OpenAIは、ガイドラインに従って実施された脆弱性調査に対しては法令違反を問わないセーフハーバーを提供し、レポートの理解および検証に協力し、検証済みの脆弱性をタイムリーに修正すると約束しています。

バグ報奨金プログラムの対象には、OpenAIの各種APIや関連するインフラストラクチャー、第三者を通じて公開された機密情報、OpenAIによって運営されているウェブサイトなどに加え、ChatGPTのログインやサブスクリプションプラン、プラグインなども含まれています。

しかし、バグ報奨金プログラムを通じた報告が求められているのは、認証やデータ漏えいといったセキュリティ的な問題であり、モデルの問題は対象外となっています。OpenAIは、「モデルの安全性の問題は直接修正できる個別のバグではないため、バグ報奨金プログラムにうまく適合しません。多くの場合、これらの問題に対処するには実質的な調査と広範なアプローチが必要です。これらの問題に対して適切に対処できるよう、バグ報奨金プログラムではなく、適切なフォームを使用して報告してください」と述べて、プロンプトを使った保護機能の回避や悪用については、モデルのフィードバック報告ページを通じて報告するように呼びかけています。

報告された脆弱性の深刻度は、Bugcrowdの脆弱性分類やOpenAIの判断に基づいて評価され、脆弱性ごとに200ドル～6500ドルの報奨金が支払われます。また、「例外的な発見」に対しては最大2万ドルの報奨金が支払われるとのことです。

OpenAIはバグ報奨金プログラムを立ち上げた理由について特定の事例に言及していませんが、2023年3月にChatGPTで発生した「他人のチャット履歴が見えてしまうバグ」に関連している可能性があると、IT系メディアのBleepingComputerは指摘しています。このバグはプラットフォームで利用されているオープンソースライブラリ・redis-pyが原因であり、チャット履歴以外にも有料プラン「ChatGPT Plus」加入者の個人情報が一部流出したとのことです。

ChatGPTで他人のチャット履歴が見えてしまうバグが発生、バグ修正にChatGPTは一時ダウン＆チャット履歴は利用不可のまま - GIGAZINE

ロイターは、4月にイタリアのデータ保護機関による「イタリア人のデータ処理を停止せよ」という命令に従い、ChatGPTに対するイタリアからのアクセスがブロックされた事例に言及。「この動きは、ChatGPTがプライバシー規制違反の疑いでイタリアで禁止された数日後に起きています。他のヨーロッパ諸国の規制当局は、生成型AIサービスをより詳細に研究することを促しています」と、ロイターは述べました。

OpenAIがイタリアからのChatGPTへのアクセスをブロック - GIGAZINE