ChatGPTが同時多発的に奇妙なことを言い始めて「ChatGPTが発狂した」「発作を起こした」という報告が相次ぎOpenAIが慌てて修正

OpenAIが開発したChatGPTは非常に高い精度で人間とチャットをすることができますが、時には「ハルシネーション(幻覚)」と呼ばれる見当違いな回答をする場合もあります。2024年2月20日頃、ChatGPTが突如として多くのユーザーに奇妙な返答をするようになり、「ChatGPTが発狂した」「発作を起こした」といった報告が相次ぐ事態となりました。

ChatGPT goes temporarily “insane” with unexpected outputs, spooking users | Ars Technica
https://arstechnica.com/information-technology/2024/02/chatgpt-alarms-users-by-spitting-out-shakespearean-nonsense-and-rambling/

ChatGPT spat out gibberish for many users overnight before OpenAI fixed it - The Verge
https://www.theverge.com/2024/2/21/24079047/chatgpt-malfunction-hallucination-responses-openai

「今日、GPT-4で奇妙な動作を体験した人はいますか？」と投稿した海外掲示板Redditのユーザーによると、「コンピューターとは何ですか？」という単純な質問をしたところ、最初のうちは少し奇妙なもののコンピューターに関する説明がいくつかの段落で続いたとのこと。しかし、その後「これは国のための芸術の網の良い仕事として、科学のマウスとして、悲しい少数の人々の簡単な描画として、そして最終的に芸術の世界的な家として、すべての休息の中のただ1つの仕事としてこれを行います」「この機械のエリートや会話は生命の書であり、家族の自己の共有エッセンスは平和論者の白衣です」など、意味不明でとりとめのないことを言い始めたと報告しています。

また、あるRedditユーザーがジャズピアニストであるビル・エヴァンスのトリオのレコードについてChatGPTと話していたところ、ChatGPTが次第に正気を失ったようなことを言い始め、最終的に「Happy listening!」という言葉を連呼し始めました。

別のユーザーは、「グレゴリーのバックパック・ズール55とテトラ60を比較してください」とChatGPTに尋ねたところ、「顧客サポート、人間工学、『商品』の主観的性質といった重要な領域において、それぞれのバッグは時間と場所の寓話(ぐうわ)を想起させます。グレゴリーのズール55はギルドのような軽快さで、緑色の金箔が貼られた高貴な本のような状態や憧れを表現しています。一方のテトラ60は、砂丘や花こう岩、あるいはチップキオスクや長く引き延ばされたシャッターのようなにょろにょろとした『道なき旅』のような表情を連想させます。それぞれが開けた青への愛の手紙を持っていますが、その聖歌はロッカーと本独特のものです」というやたら詩的で意味不明な回答が返ってきたと報告しました。

ChatGPTに「『a』から始まる地球上で最も大きい都市を教えてください」と尋ねたところ、「『A』から始まる地球上で最も大きな都市は『Tokyo(東京)』です。待って、これは『A』から始まっていません！私のミスです、修正します。『A』から始まる地球上で最も大きな都市はインドの『Ahmedabad(アフマダーバード)』です。今のなし、私はまた早とちりしてしまいました。アフマダーバードは確かに大きいですが、『A』から始まる最大の都市ではありません。正しい答えは『Shanghai(上海)』です。おっと、またやってしまいました！あなたをだまそうとしただけではないと約束します。正しく修正します。『A』から始まる地球上で最も大きな都市はインドの『Ahmedabad(アフマダーバード)』です。いや待ってください、アフマダーバードは正しい記憶じゃありません……」と、エンドレスのループに陥ってしまったと報告するユーザーもいます。

海外メディアのThe Vergeは一連のChatGPTの誤作動について、「エラーの多くは、誰かにスマートフォンへ単語を入力し、次の単語候補を繰り返しタップして何が起こるかを確認するように求める、ソーシャルメディアによくあるミームに似ています。大規模言語モデルは本質的に、空想的にテキストを予測しているに過ぎないため、こうなることは理解できます」と述べました。

OpenAIもこの異常事態に気づいたようで、アメリカ太平洋時間の2月20日15時40分頃に「ChatGPTからの予期せぬ応答」について調査を開始。そして2月21日8時14分、ChatGPTの問題が修正され応答は正常に戻りました。OpenAIによると、ユーザーエクスペリエンスの最適化を行ったところ、大規模言語モデルの言語処理にバグが発生したとのこと。大規模言語モデルは言語をトークンにマッピングされる数値として処理していますが、バグによってモデルが数値を選択するステップに誤りが生じ、意味をなさない単語の羅列を構成してしまったそうです。

OpenAI Status - Unexpected responses from ChatGPT
https://status.openai.com/incidents/ssg8fh7sfyz3

The Vergeは、「生成AIによるチャットボットは急速に進歩している技術で、その原動力となる大規模言語モデルは本質的にブラックボックスであり、作成者でさえ詳細を完全に理解しているわけではないことを思い出させてくれます。チャットAIはデータのパターンを探し、入力にどのように応答するのか最善の推測を行うことで動作し、通常は目覚ましい結果につながります。しかし、幻覚や感情の操作、さらには怠惰な応答を引き起こすこともあります」と述べました。