Googleが間違いだらけのAI検索を手動で修正中との報道、AI検索を回避する個人開発サービスも登場

Googleは、検索結果にAIで生成した概要を表示する「AIによる概要など(AI Overviews)」を2024年5月14日にアメリカで正式リリースしました。このAIオーバービューを巡って「あきらかに間違った情報が表示される」という問題が多数指摘されているのですが、新たにGoogleがAIのおかしな回答を手動で削除している可能性が浮上しました。

Google scrambles to manually remove weird AI answers in search - The Verge
https://www.theverge.com/2024/5/24/24164119/google-ai-overview-mistakes-search-race-openai

AIオーバービューは検索結果の上部にAIで生成した「検索結果の概要」を表示する機能で、例えば「布地のソファを掃除するにはどうしたらいい」という質問に対して検索結果をもとに「掃除機を使う場合は○○、一部分を重点的に掃除したい場合は○○」といったように自然な言語で検索結果の概要を示してくれます。

しかし、AIオーバービューはリリース直後から「ピザにチーズをくっつけるために接着剤の使用を提案してくる」「NBAに犬が出場したことがあると主張してくる」「『1919年は20年前です』と回答してくる」といったように明らかに誤った回答を返すことが話題になっていました。

Google検索のAIによる概要機能が「ピザにチーズをくっつけるために接着剤を使用する」などおかしな回答をしていることが明らかに - GIGAZINE

同様の問題について、海外メディア「The Verge」のニレイ・パテル編集長は2024年5月24日に「『コルベットを所有している大統領は？』という質問ではAI検索が応答せず通常の検索結果として『バイデン』という回答が返ってくる。しかし、『フェラーリを所有している大統領は？』という質問だとAI検索が応答して『トランプ』と返してくる。一貫性がない」と指摘していました。

そして、上記投稿の3時間後には「フェラーリを所有している大統領は？」という質問に対してもAIが応答しないように挙動が変化。この挙動変化のタイミングから、パテル氏は「Googleは手動でAIオーバービューを無効化しているようだ(笑)」とコメントしています。

Googleの担当者はThe Vergeに対して「AIオーバービューが提供する情報は高品質なもので、一部の誤った回答は珍しい例である」とコメントしつつ、「コンテンツポリシーに基づいて適切だと判断された場合、特定の検索語句に対するAIオーバービューの回答を無効化するために迅速な措置を講じている」と述べ、何らかの手段でAIオーバービューを個別に無効化していることを認めています。

なお、AIオーバービューが有効になっている地域でも、検索語句の末尾に「&udm=14」というパラメータを付けることでAIオーバービューを無効化して従来の検索画面を表示できます。また、検索語句の末尾に『&udm=14』を自動的に付与してGoogle検索するサービス「&udm=14 | the disenshittification Konami code」も有志によって公開されています。ちなみに、サービス名に含まれる「Konami code」は「裏技コード」を指す用語で、コナミが開発に関わっているわけではありません。

&udm=14 | the disenshittification Konami code
https://udm14.com/