GoogleがジェネレーティブAIが抱える脆弱性などを発見したユーザーに報奨金を支払うプログラムを開始

Googleは2011年から、プログラムやウェブサービスなどに潜む脆弱(ぜいじゃく)性を発見したユーザーに謝礼として報酬を支払う「Vulnerability Reward Program(VRP)」を運用しています。近年はChatGPTなどのジェネレーティブAIが興隆していることから、Googleは2023年10月26日、新たにジェネレーティブAIの脆弱性を発見し報告したセキュリティ研究者に対して報酬を支払うことを決定しました。

How Google is expanding its commitment to secure AI
https://blog.google/technology/safety-security/google-ai-security-expansion/

Google expands its bug bounty program to target generative AI attacks
https://www.engadget.com/google-expands-its-bug-bounty-program-to-target-generative-ai-attacks-120049796.html

Google adds generative AI threats to its bug bounty program | TechCrunch
https://techcrunch.com/2023/10/26/google-generative-ai-threats-bug-bounty/

Google announces bug bounty program for AI services, just like Microsoft - MSPoweruser
https://mspoweruser.com/google-bounty-program-for-ai/

ジェネレーティブAIは質問への回答やコードの生成、目的に沿ったイラストの生成などを行える一方、使い方次第では嘘のニュース記事やSNSの投稿、個人情報を漏えいさせるような攻撃を生み出せる危険性をはらんでいます。

これまでGoogleは、これまでGoogle製品やオープンソースソフトウェアに存在する脆弱性を発見したセキュリティ研究者に対し報酬金を支払うVRPという取り組みを行ってきました。今回、GoogleはこのVRPの範囲を拡大し、AIによるセキュリティの脆弱性と攻撃も報告と報酬金支払いの対象になることを明らかにしました。

今回のVRPの適用範囲の拡大によって、ジェネレーティブAIが持つセキュリティ上の欠陥を見つけてGoogleに報告、開示したセキュリティ研究者やホワイトハッカーに対して、発見した脆弱性の重大度によって最大3万1337ドル(約470万円)が支払われます。なお、海外メディアのTechCrunchは満額の3万1337ドルが支払われる条件について「Google検索やGoogle Playなどの機密性の高いアプリケーションにおいて、AIを用いてコマンドインジェクション攻撃を行う脆弱性や、デシリアライズが行われるバグを発見した場合」と語っています。

一方で、発見された脆弱性の優先度が低い場合、Googleから支払われる最大報酬額は5000ドル(約75万円)にとどまるとのこと。

GoogleはTechCrunchに対し「VRPの範囲を拡大することで、AIの安全性とセキュリティに関する研究がこれまでよりも活発になり、その結果ジェネレーティブAIが抱える潜在的な問題が明らかになる可能性があります。これによって、より安全で安心なジェネレーティブAI製品が開発されるはずです」と述べています。

さらにGoogleはセキュリティ研究者などからの報告を募集するとともに、AIをより安全に利用できるためのホワイトハッカーチーム「Google Red Team」を独自に組織しています。

これまでにGoogle Red Teamは、大規模言語モデルが抱える、敵対的なプロンプトを入力して有害なテキストの生成を行ったり、機密情報を漏えいさせたりする「プロンプト・インジェクション」といった問題について警告しています。また、大規模言語モデルがトレーニングした情報を再構築し、得られたデータから個人情報やパスワードを抽出する「トレーニングデータ抽出攻撃」についてもGoogleに警告しています。

Googleは「AIには、悪意を持ったモデルの操作や不適切なバイアスなど、従来のテクノロジーとは異なるセキュリティ問題を抱えています。そのため、これらの問題に対処するための新たなガイダンスが必要です。今回、VRPの範囲を拡大することで、AIサプライチェーンのセキュリティに関する脆弱性やバグなどの情報を普遍的に発見および検証できるようにしています」との声明を残しています。