Googleのスーパーボウル向けTVCMでGeminiが誤情報を出力していることが明らかに

現地時間の2025年2月9日、NFLの王者決定戦である第59回スーパーボウルが行われています。このスーパーボウルはアメリカの広告業界で最も注目されるイベントとしても知られており、さまざまな企業がこぞってユニークでクリエイティブなテレビCMを放送します。Googleもスーパーボウル向けにチャットAI・GeminiのテレビCMを放送しているのですが、これにはAIのハルシネーション(幻覚、作話)が多数盛り込まれているとNate Hake氏が指摘しました。
Google faked Gemini AI output in Super Bowl ad | The Verge
https://www.theverge.com/news/608188/google-fake-gemini-ai-output-super-bowl
Googleがスーパーボウルで放送したテレビCMが以下。数百万の中小企業がGoogle WorkspaceのGeminiをビジネスでどのように活用しているかをアピールするという内容です。
How Google AI is helping American small businesses - YouTube

しかし、Hake氏は「GoogleのスーパーボウルテレビCMでは、Geminiがハルシネーションを起こす様子が自慢げにアピールされています」「このテレビCMはGoogleを嫌う人ならだれでも掘り下げるべき恥ずべき資料の宝庫となっています」と指摘しています。
Google's AI Super Bowl ads BRAG about plastering hallucinated facts all over the Internet
— Nate Hake (@natejhake) January 31, 2025
To be clear -- I'm saying the actual content of Google's ads *show* hallucinations on screen, that YOU can go find live on the web
There are 50 of these
A cornucopia of embarrassing… https://t.co/1p4irwG0N5
Hake氏はGeminiのハルシネーションの事例も提示しています。例えば、テレビCMの52秒辺りでユーザーが「A description of smked Gouda that would appeal to cheese lovers(チーズ好きにはたまらないスモークゴーダチーズの説明文)」をGeminiに質問する場面が映し出されています。これに対してGeminiは「ゴーダチーズは世界のチーズ消費量の50~60%を占める」と回答しているのですが、これは明らかな誤情報であるとHake氏は指摘。
In Google's Wisconsin local Super Bowl ad, an AI hallucination is shown on screen:
— Nate Hake (@natejhake) January 31, 2025
It says *Gouda* accounts for "50 to 60 percent of the world's cheese consumption."
Gemini provides no source, but that is just unequivocally false
Cheddar & mozzarella would like a word… pic.twitter.com/UwIBHAO4x6
実際、コーネル大学の農業経済学の名誉教授であるアンドリュー・ノヴァコビッチ氏も「おそらくゴーダチーズは世界で最も広く消費されているチーズではない」と語り、Geminiの出力は誤情報であると指摘しています。海外メディアのThe Vergeによると、GeminiはCheese.comというウェブサイトから統計情報を引用しているようだと指摘。
The Vergeがこの件についてGoogleに問い合わせたところ、広報担当者のミシェル・ワイマン氏は「ゴーダチーズの統計についての指摘が上がった後、我々はウィスコンシン・チーズ・マートのオーナーと話し、どう対応するか考えました。その結果、Geminiに統計情報なしで商品説明を書き直すように提案した」と語ったそうです。
さらに、Googleは「事業の方針を反映するようにUIを更新しました」と語っており、Googleは動画を編集して「ゴーダチーズは世界のチーズ消費量の50~60%を占める」という部分をGeminiの回答から削除したバージョンを公開しています。
Google is scrubbing Gemini's AI hallucination from its Super Bowl ad
— Nate Hake (@natejhake) February 5, 2025
This after Google Cloud President @jdischler said it was *not* a hallucination
Which is it, Jerry? https://t.co/irDoFkZVZY
なお、ウィスコンシン・チーズ・マートはGeminiの出力した誤情報を自社のウェブサイト上に記載していましたが、記事作成時点では「ゴーダチーズは世界のチーズ消費量の50~60%を占める」の記述を削除しています。
Gouda Cheese Smoked – Wisconsin Cheese Mart
https://www.wisconsincheesemart.com/products/gouda-cheese-smoked
・関連記事
GoogleがAIの誤情報生成を防止するAIモデル「DataGemma」をリリース、「信頼できるデータ集」を参照して幻覚(ハルシネーション)を軽減 - GIGAZINE
「Gemini 1.5 Flash」「Gemini 1.5 Pro」の更新版リリース、数学性能や視覚理解性能が向上してProの価格は大幅値下げ - GIGAZINE
Gemini 2.0 Flashは大量のPDFをAIで使用できるよう変換する作業でコスト・パフォーマンスの両面で劇的に優れている - GIGAZINE
さまざまなチャットAIがどれくらい幻覚を見るのかをランキングにした「Hallucination Leaderboard」が公表される - GIGAZINE
生成AIの幻覚で指定される「架空のパッケージ」に悪用の危険性があるとセキュリティ研究者が警告 - GIGAZINE
・関連コンテンツ
in ソフトウェア, ネットサービス, 動画, Posted by logu_ii
You can read the machine translated English article Gemini reveals misinformation in Google&….