「自殺のレクチャー」がYouTubeの子ども向けムービーに表示されてしまう

by Honza Soukup

YouTubeが提供している子ども向けアプリ「YouTube Kids」は、YouTube上のさまざまな子ども向けムービーが視聴できるアプリになっており、アルゴリズムによって子どもにふさわしくないムービーをフィルタリングしています。しかし、そんなYouTube Kidsで視聴できるムービーに「自殺のレクチャー」が混ざっていることが判明し、子どもにとって悪影響だという批判が噴出しています。

YouTube Kids Scare - PediMom
https://pedimom.com/youtube-kids-scare/

Florida doctor and mom Free Hess exposes suicide tips hidden in clips on YouTube and YouTube Kids - The Washington Post
https://www.washingtonpost.com/technology/2019/02/24/pediatrician-exposes-suicide-tips-children-hidden-videos-youtube-youtube-kids/

Suicide instructions spliced into kids’ cartoons on YouTube and YouTube Kids | Ars Technica
https://arstechnica.com/science/2019/02/youtube-kids-cartoons-include-tips-for-committing-suicide-docs-warn/

小児科医のFree Hess氏によって運営されている子育てブログ「PediMom」に投稿された記事によると、とある内科医の女性が鼻血を出した息子にYouTube Kidsを見せていたところ、途中までは単なる子ども向けムービーだったにもかかわらず、ムービーの4分45秒付近で突然男性が画面に現れたとのこと。そして男性は自分の腕を掲げ、想像上の刃物を持った手でもう片方の手首をなぞり、「いいかい子どもたち、気を引くなら横向き、結果が欲しいなら縦向きだ」と話して画面外へと歩き去って行ったそうです。

母親は慌ててムービーの再生をストップし、子どもが遊びに行ってからもう一度自分でムービーの内容を確かめてみました。すると、日系オーストラリア人のコメディアン・アーティストであるJoji(Filthy Frank)氏らしき人物が、やはり手首を切る様子を再現していると確認できたとのこと。「私は心をかき乱され、悲しみ、嫌気が差しています」と母親は述べており、すぐにYouTube Kidsをデバイスから削除したとしています。

PediMomがYoutubeに確認したところ、問題となったムービーはYouTube Kidsから削除されたとのことですが、母親は「このビデオは子どもたちを意図的に傷つけるためにYouTube Kidsに植えつけられました」と非難しています。

以下の画像が問題のムービーのスクリーンショット。一見ただのスプラトゥーンムービーですが……

4分45秒付近になると、突然Filthy Frank氏が画面上に現れます。

そして自分の手首に刃物を当てて、横に引くようなしぐさをしてみせました。

Filthy Frank氏の登場するパートはほんの十秒ほどで、すぐにスプラトゥーンのムービーへと切り替わりました。

いったいなぜスプラトゥーンのムービーにFilthy Frank氏の映像が挿入されたのかは不明ですが、Filthy Frank氏のファンは直接関係ないムービーにFilthy Frank氏の様子を挿入する遊びを楽しんでいるため、このことが関係しているともみられています。Hess氏はこのムービーについて「これは子どもたちにとって非常に危険だと思います」と語り、成長途中の子どもがインターネット上で危険なコンテンツに触れることは、子どもの成長に悪影響を及ぼす可能性があると指摘しています。

アメリカ心理学会の元会長であるNadine Kaslow氏は、「多くの子どもは過激なムービーを無視するかもしれませんが、心にもろい部分を抱えている子どもは過激なムービーに心を引かれてしまう可能性があります」と述べています。YouTube Kidsを視聴するような子どもは自殺に興味を持ったり行為を理解したりするには若すぎますが、それでも子どもにムービーのマネをさせてしまうかもしれないとのこと。

YouTubeの広報担当者であるAndrea Faville氏は、「自傷行為を推奨するような危険なコンテンツを禁止するために、YouTubeでは厳格なポリシーを採用しています。YouTubeは四半期ごとに数百万もの有害なムービーやチャンネルを削除しており、そのほとんどは再生前に削除されています」と述べました。

その一方で、YouTubeは「子どもの性的搾取を促進している」との指摘もされており、世間のYouTubeに対する視線は厳しいものとなっています。

「YouTubeが子どもの性的搾取を促進している」と批判の的に、ディズニーやEpic GamesがYouTubeへの広告を引き上げる事態に - GIGAZINE