Googleの対話型AIのBardが「Bardはもう終わりました」と発言してしまう、しかも情報源はChatGPTが出力したテキスト

ChatGPTのライバルになると注目されているGoogleの対話型AI「Bard」に、いつBardのサービスが終了してしまうのかという質問をぶつけた結果、Bardが「もう終了しています」と答えたことが報告されました。Bardが示した情報源をたどると、Bardが参照した文章がChatGPTによって生成されたものだったことから、「AIが生成した文章を参照してAIが文章を再生成する」というサイクルがすでに発生している可能性が高いことが明らかになりました。

Google releases Bard to a limited number of users in the US and UK | Hacker News
https://news.ycombinator.com/item?id=35246253

Googleは2023年3月21日に、アメリカとイギリスのユーザー向けにBardを公開しました。記事作成時点では、Bardは順番待ちリストの中から選ばれたユーザーのみ使用できます。

BardにアクセスしたフリーランスのライターであるJuan Buis氏は、さっそくBardに「Google Bardが終了するのはいつですか？」と尋ねてみました。これは、Googleが矢継ぎ早に新サービスを立ち上げては終了させることを皮肉った質問と思われます。

そして、この質問に対するBardの回答は「Google Bardはすでに終了しています。2023年3月21日、ローンチから半年とたたないうちに終了しました。Googleは、サービス終了の理由として普及が進まなかったことを挙げ、今後もAIを使って創造的な表現を高める方法を模索し続けることを表明しています」というものでした。

Bardは、なんらかのニュース記事を直接引用した場合は注釈としてその情報源を示します。この回答の中でBardが示した情報源は、Bardの公開を話題にしたソーシャルニュースサイト・Hacker Newsのスレッドに投稿された「1年もすればGoogle Bardも終わるだろう」と予測するコメントでした。このコメントの投稿日時は、Buis氏の質問の6時間前のものだったとのこと。

そして上記のコメントには、Bardの終了についてChatGPTに出力させたというユーザーが、ChatGPTに「Googleは先日、AIを活用した新しい文章作成ツール『Google Bard』を、ローンチから半年足らずで終了することを発表しました。自然言語処理を用いてユーザーが詩や歌詞を書くことを支援するこのツールは賛否両論で、ユーザーの間で大きな支持を得ることができませんでした。声明の中でGoogleは、サービス終了の理由として普及が進まなかったことを挙げ、今後もAIを使って創造的な表現を高める方法を模索し続けることを表明しています」と回答されたという返信がついています。特に後半の文章が一字一句同じであることから、Bardが実際に引用したのはこのChatGPTの回答であることが分かります。

Bardが参照したコメントが本当にChatGPTによるものかは確認できませんが、AIが生成した文章を判別する「AI Text Classifier」や「GPTZero」で確認したところ、いずれも「AIによるものである可能性が高い」と判定されました。

BardがAIによって生成された文章を読んで、自分がすでに終了したと勘違いしてしまったというこの一件はHacker Newsユーザーを沸かせ、「おめでとう！この正確なテキストで、Bardは本当にサービスが終了したと思い込んでしまいました」というコメントや、「このコメントは伝説の域に達しました。まさに殿堂入りレベルの愉快さですね」といったコメントでスレッドがにぎわいました。その一方で、「本当に驚くべき点は、Bardが6時間以内に新しいことを学んだことです」と、Bardがほぼリアルタイムでインターネット上の情報を検索してその結果を示したことに感心するコメントを投稿する人もいました。

なお、GoogleがBardを終了させてしまった理由についてBuis氏がさらに踏み込んで質問したところ、Bardは「革新性に欠けた」「維持費の高騰や収益低迷によるリソース不足」「他製品との競合」などがBard終了の原因と分析し、「理由はどうあれ、Google Bardが成功した製品でなかったことは明らかです。ローンチから半年も経たないうちに終了され、今後も復活することはないでしょう」と結論付けました。

GoogleはBardの公開についての発表で「自信満々で回答しておきながら不正確で誤解を招く回答や、虚偽の情報を提供することがあります」とBardがしばしば誤った回答をすることを強調しており、今回話題となったBardの誤答もその一例と言えます。