「発作の対応方法」をGoogleで検索したら「やってはいけない処置」をやれとの指示が出る不具合が怖すぎるとSNSで話題に

Googleで何かを質問するような検索をすると、その回答が記載されたページから内容を抜き出した「強調スニペット」が表示されるので、わざわざ検索結果のサイトを見に行かなくても答えが分かって便利です。しかし、ある人が発作の対応方法をGoogleで検索したところ、人命に関わるような検索結果が表示されたことが、SNSで報告されました。

iTWire - How a Google search could end up endangering a life
https://itwire.com/home-it/how-a-google-search-could-end-up-endangering-a-life.html

仮想空間を提供するサービス「セカンドライフ」を手がけるLinden Labで情報セキュリティ責任者を務めているというSoft Linden氏が2021年10月17日に、Google検索の結果に表示される概要と実際のページの内容が違うことをTwitterで訴えました。

そのツイートが以下。Soft Linden氏が「had a seizure now what?(発作が起きてしまった、どうすればいい？)」と検索したところ、Google検索のスニペットには「押さえつけるか、動きを止めようとすること。口に何かを入れること(歯やあごを傷つける可能性があります)。発作中に心肺蘇生法やマウスツーマウスの人工呼吸を行うこと。意識が回復するまで食べ物や水を与えること」と記載されていました。

これはユタ大学病院のページから抜き出されたもので、当該ページでは「やってはいけないこと」として箇条書きで列挙されている内容でした。これが、Google検索によって要約された際に「やってはいけないこと」という説明が欠落してしまったため、あたかも発作が起きた際にやるべきことのように見えてしまっています。スニペットの内容を冷静に読めば、文脈からやるべきではないことだと分かりますが、目の前で人が発作を起こした時など気が動転している時には思わずそのまま指示に従ってしまう危険性があります。

別のTwitterユーザーは、Google Homeが前述の「発作への対応としてやってはいけないこと」を、ユタ大学病院が「やるべきこと」と説明しているかのように読み上げてしまうことを指摘しました。

ともすれば重大な事故につながりかねない問題を報告したSoft Linden氏のツイートは、記事作成時点で6795回もリツイートされ、4万3000件以上のいいねが寄せられるなど大きな注目を集めました。さらに、これに反応したユタ大学病院は「最近、Google検索エンジンが生成する質問とその回答に誤った情報が表示されていることが判明しました。私たちは、検索結果が修正されることを期待してコンテンツを修正するとともに、検索エンジンにもう一度ページをスキャンさせる措置を講じました」とリツイートしました。

ユタ大学病院が報告したように、記事作成時点では発作への対応方法を解説したユタ大学病院のページから「やってはいけないこと」が削除されています。また、Googleで「had a seizure now what?」と検索してもスニペットは表示されません。

この一件を取り上げたIT系ニュースサイトのiTWireは、「発作後の対処法をGoogleで検索すると、『やってはいけない』という言葉が抜け落ちて、人命に関わる可能性のある指示が表示されました」と報じました。