YouTubeがおすすめ動画としてポリシーに違反するコンテンツを表示していることが判明

ウェブブラウザのFirefoxを展開するMozillaが、「YouTubeのおすすめ動画欄に出てくる動画」についてユーザーの情報をもとに10カ月間の調査を行った結果、YouTubeがユーザーに不適切な動画をおすすめとして表示していることを発見しました。この傾向は特に英語圏以外のユーザーに顕著で、Mozillaは「アルゴリズムに問題がある」と指摘しています。

YouTube Regrets Report - Mozilla_YouTube_Regrets_Report.pdf
(PDFファイル)https://assets.mofoprod.net/network/documents/Mozilla_YouTube_Regrets_Report.pdf

Mozilla Foundation - Mozilla Investigation: YouTube Algorithm Recommends Videos that Violate the Platform’s Very Own Policies
https://foundation.mozilla.org/en/blog/mozilla-investigation-youtube-algorithm-recommends-videos-that-violate-the-platforms-very-own-policies/

YouTube’s Search Algorithm Directs Viewers to False and Sexualized Videos, Study Finds - WSJ
https://www.wsj.com/articles/youtubes-search-algorithm-directs-viewers-to-false-and-sexualized-videos-study-finds-11625644803

2019年、MozillaはYouTubeのアルゴリズムがユーザーにおすすめとして表示する動画に人種差別や暴力、陰謀論につながるコンテンツがあるとする調査結果を発表。YouTubeに改善を提案するもおよそ1年が経過してもアルゴルズムに変化はみられず、2020年9月、MozillaはYouTubeにおすすめとして表示される動画の傾向を調査するため、Firefox・Chromeブラウザ向けのアドオン「RegretsReporter」をリリースしました。Mozillaはこのアドオンを通じてユーザーに不適切な動画の報告を依頼することで、おすすめされる動画のパターンを見つけ出そうと試みていました。

MozillaがYouTubeの動画推奨アルゴリズムを調査するために専用アドオンをリリース - GIGAZINE

2021年7月7日、MozillaがRegretsReporterにより、およそ3万7000人から得られたデータを基にした調査結果を発表。Mozillaによると、ユーザーが不適切だと判断した動画のうち71％はおすすめとして表示された動画であり、その数は合計3362本に上るとのこと。さらに、英語を第一言語としない国、特にブラジルやドイツ、フランスのユーザーは、英語圏のユーザーと比べて不適切な動画が表示される確率が60％高かったことも分かったとのことです。

不適切だと判断された動画のうち、最も多かったジャンルは「誤った情報」であり、他にも暴力や不快な言葉、性的なコンテンツが含まれました。これらのうち200本はすでにYouTubeから削除されているものの、合計で1億6000万回の視聴回数を記録していたとのこと。

YouTubeは「ユーザーは1日の視聴時間のうち、60％以上をおすすめとして表示された動画に費やしており、2020年にはおすすめ動画で197億ドル(約2兆2000億円)の利益を生み出した」と述べており、おすすめ動画の収益性に着目しています。YouTubeの広報担当者は今回の調査を受け、「YouTubeはユーザーエクスペリエンスの向上に絶えず取り組んでいます。過去1年間だけでも有害なコンテンツを減らすために30以上のさまざまな変革に取り組んできました。YouTubeのシステムはポリシーに違反する動画の94％を検出し、10回再生されるまでに動画を削除しています」と述べました。

Mozillaの担当者であるBrandi Geurkink氏は「YouTubeはポリシーに違反する動画を削除しないだけでなく、積極的におすすめとして表示しています。YouTubeのアルゴリズムの透明性を高める必要性があることを、一般市民や議員に納得させることに期待しています」と述べました。