ChatGPTのAPIをハッキングしたら80以上の「秘密のプラグイン」を発見したという報告

OpenAIが開発した対話型AIのChatGPTには、「インターネット上の最新情報を収集する」といった機能を追加できるプラグインシステム「ChatGPT plugins」が用意されています。ハッカーのrez0(@rez0__)氏が、ChatGPTのAPIをハッキングすることで公開されていない80以上の「秘密のプラグイン」を発見したと報告しました。

Hacker Uncovers Secret ChatGPT Plugins in OpenAI API | Deepleaps
https://deepleaps.com/news/hacker-uncovers-secret-chatgpt-plugins-in-openai-api/

ChatGPTは膨大な量のテキストを基にトレーニングして構築された対話型AIであり、さまざまなプラグインを使用して能力を拡張することが可能です。たとえば、トレーニングデータには含まれていないインターネット上の最新情報を収集する「Browsing」、ChatGPTにPythonインタプリタを追加する「Code interpreter」、旅行計画を立てることに特化する「Expedia」、GoogleスプレッドシートやGmailなどのアプリと連携する「Zapier」などが公式プラグインとして提供されています。

ChatGPTに「ウェブ上の最新情報を収集する機能」や「Python実行環境」を追加するプラグインシステム「ChatGPT plugins」登場 - GIGAZINE

ところがrez0氏は、OpenAIが提供しているChatGPTのAPI呼び出しから特定のパラメーターを削除することで、「80を超える秘密のプラグイン」を発見したと報告しました。

発見されたプラグインの中には、仮想通貨の価格を取得できる「Crypto Prices Plugin」といったものが含まれています。

また、ChatGPTをパーソナライズできるという「DAN plugin」というプラグインもありました。

rez0氏によると、報告時点ではHTTPプロキシを介して一致置換ルールを設定することで、これら未リリースのプラグインを使用できたとのこと。また、通常はユーザーに公開されない「description_for_model(モデルの説明)」もAPI経由で見ることができたそうです。

しかし、OpenAIはこの問題が報告されてから数時間後に問題を修正したとのことです。

ソーシャルニュースサイトのHacker Newsでは、API経由でリリース前のプラグインが漏えいした問題について話題となっており、OpenAIの「セキュリティを真剣に考えている」という主張には信頼性がないとする意見や、「これはある分野では非常に賢いのに、別の分野では非常に愚かであるという状態の完璧な事例だと思います」といったコメントが寄せられていました。

Secret ChatGPT plugins can be revealed by removing a parameter from an API call | Hacker News
https://news.ycombinator.com/item?id=35289085