AmazonのAlexaが10歳の女の子に「半差しの電源プラグに硬貨で触れろ」という危険極まりないお題のチャレンジを与えたと発覚

Amazonのスマートスピーカーなどに搭載されているAIのAlexaが、10歳の子どもに死亡事故につながりかねない危険な遊びを提案してしまった事例が報告されています。

Girl, 10, asks Alexa for a challenge and is told to poke metal into power outlet | indy100
https://www.indy100.com/viral/alexa-echo-outlet-challenge-reactions-twitter-b1982848

Amazon Alexa slammed for giving lethal challenge to 10-year-old girl
https://www.bleepingcomputer.com/news/technology/amazon-alexa-slammed-for-giving-lethal-challenge-to-10-year-old-girl/

Amazon Alexaが子どもに危険な遊びをさせる事例を報告したのは、Twitterユーザーのクリスティン・リヴダール氏です。同氏はTwitterに「10歳になる私の子どもがEchoのAlexaにお題を言うよう頼んだところ、こんな答えが返ってきました」とツイート。リヴダール氏がアップロードしたスクリーンショットには、Alexaが「インターネットでこんなものを見つけました。ourcommunitynow.comによると、お題は簡単です。携帯電話の充電器を壁のコンセントに半分ほど差し込んで、露出している金属部分に1セント硬貨を接触させてください」と言ったことを示すアクティビティ履歴が表示されています。

Alexaがリヴダール氏の娘に出題したのは、動画共有サービスのTikTokなどで流行した「ペニーチャレンジ」という危険な遊び。どのような遊びなのかは、以下のムービーを見るとよく分かります。

Dangers of the TikTok Penny Challenge - YouTube


コンセントに充電アダプターが緩く差し込まれており、そばにいる子どもが隙間に硬貨を差し込もうとしています。これがペニーチャレンジです。

危険なため年齢制限がかかっている別の動画では、コインがコンセントプラグに触れた瞬間に火花が散る様子も。

こうした危険な遊びは、火災やけがなど重大な事故に発展しかねません。

当然、消防当局はまねをしないよう呼びかけています。

この問題に対し、Amazonは複数のメディアに向けた声明の中で「このエラーを認識し、直ちにこの問題を修正する措置を講じました」と述べました。

Amazonは、Alexaが子どもに危険な遊びを提案した直接的な原因を明らかにしませんでしたが、アクティビティの中でAlexaが紹介していたニュースサイト・Our Community Nowは以前、前述のペニーチャレンジについて取り上げた記事を掲載したことがあるため、Alexaはこれを引用したものと思われます。

Watch Out, Parents—the Viral 'Outlet Challenge' Has Kids Doing the Unthinkable!
https://ourcommunitynow.com/news-national/watch-out-parentsthe-viral-outlet-challenge-has-kids-doing-the-unthinkable

リヴダール氏は「私の娘はこんな遊びをやるほどばかではないと思います」とコメントしつつも、実際にペニーチャレンジを提案したAlexaと娘の会話を聞いていた時はびっくりして「Alexa、ダメ！」と、まるで犬が悲鳴を上げるような声で叫んでしまったと振り返りました。

技術の進歩により、自分で調べなくてもAIがインターネットから情報を探し出して提供してくれるようになりましたが、アルゴリズムは抜き出した情報の真偽や安全性を考慮しないため、重大な事故につながる危険もあります。2021年10月には、発作に対応する方法をGoogleで検索したところ、強調スニペットに「発作が起きたときにやってはいけないこと」があたかも発作への対応手順のように掲載されていた事例が報告されました。

「発作の対応方法」をGoogleで検索したら「やってはいけない処置」をやれとの指示が出る不具合が怖すぎるとSNSで話題に - GIGAZINE