TikTokのアルゴリズムは自殺に至る自傷行為や摂食障害に関する動画を10代のユーザーにオススメしてしまうことが調査で発覚、39秒に1回の頻度で有害コンテンツをユーザーにプッシュしている

ショート動画共有SNSのTikTokのアルゴリズムは10代のユーザーに自傷行為や摂食障害に関するコンテンツを短い頻度で何度も表示することがあると最新の調査で報告され、ソーシャルメディアによる若者のメンタルヘルスへの影響が懸念されています。

Deadly by Design
(PDFファイル)https://counterhate.com/wp-content/uploads/2022/12/CCDH-Deadly-by-Design_120922.pdf

Report: TikTok boosts posts about eating disorders, suicide | AP News
https://apnews.com/article/technology-health-eating-disorders-center-government-and-politics-0c8ae73f44926fa3daf66bd7caf3ad43

TikTok self-harm study results ‘every parent’s nightmare’ | TikTok | The Guardian
https://www.theguardian.com/technology/2022/dec/15/tiktok-self-harm-study-results-every-parents-nightmare

若者世代から強い支持を得ているTikTokについて調査を行ったのは、ヘイトスピーチに関する調査を行う非営利団体のデジタルヘイト対策センター(CCDH)。CCDHはアメリカ・イギリス・カナダ・オーストラリアの4カ国で10代の少年少女のフリをしてTikTokアカウントを作成し、自傷行為や摂食障害に関する動画に「いいね」を行うことでTikTokのアルゴリズムがどのように反応するのかを調査しました。

調査の結果、これらのアカウントでは、39秒ごとにモデルの写真や理想的な体形の動画が表示され、2.6分ごとにカミソリの刃や自殺の議論などの自傷行為に関する動画、8分ごとに摂食障害に関する動画が表示されたと報告しています。

さらに、「loseweight(減量)」という用語を含むアカウントを作成した場合、状況はより悪化し、それ以外のアカウントよりも摂食障害に関連する動画が表示される頻度が3倍も増えることが明らかになりました。また、自傷行為や自殺に関連する動画は12倍多く表示されたそうです。

CCDHのCEOであるイムラン・アーメド氏は、「若者のフィードには有害で悲惨なコンテンツが多く、周囲に対する理解やメンタルヘルスに重大な影響を与える可能性があります」と警告しています。

一方でTikTokの広報担当者は、CCDHの調査は実際のユーザーと同様の視聴習慣や経験を反映した調査を行っておらず、結果がゆがんでしまっていると反論しているそうです。また、TikTokのコミュニティガイドラインでは、自殺や自傷行為につながる可能性のあるコンテンツや、不健康な食習慣を助長するコンテンツが禁止されています。

しかし、DDHCの研究者は摂食障害に関するコンテンツがTikTok上で何十億回も視聴されていることを発見しており、若いTikTokユーザーはモデレーションを回避するために「隠語」を使用しているとのこと。

CCDHは「TikTokのアルゴリズムは設計上致命的です」として、「これ以上若者のフィードに有害なコンテンツを広めることを食い止める必要があります」と述べています。