「死体の花嫁ダイエット」などの動画でTikTokが少女を摂食障害にしているという調査報告を受けTikTokがアルゴリズム変更

TikTokは10代の少女に浮き出た肋骨を賞賛する「コープス・ブライド(死体の花嫁)ダイエット」や、「クリスマスまでの減量競争」といった動画を表示しており、これが少女たちの摂食障害の引き金となっていることが、ウォール・ストリート・ジャーナルによって報じられています。ウォール・ストリート・ジャーナルの記事が発表される前日、TikTokは突如としてアルゴリズムの変更を発表していました。

‘The Corpse Bride Diet’: How TikTok Inundates Teens With Eating-Disorder Videos - WSJ
https://www.wsj.com/articles/how-tiktok-inundates-teens-with-eating-disorder-videos-11639754848

WSJ’s deep dive into eating disorder rabbit holes on TikTok explains a sudden policy change - The Verge
https://www.theverge.com/2021/12/18/22843606/tiktok-wsj-algorithm-change-eating-disorder

2021年12月16日(木)、TikTokはアルゴリズムの変更を発表しました。

TikTokが「同じ動画を何度もユーザーに見せないように」アルゴリズムを変更 | GIGAZINE.BIZ

TikTokのアルゴリズム変更は「同じタイプの動画をユーザーに何度も表示しないようにする」というもの。TikTokは変更の理由について、「『孤独』や『過激なダイエット』に関するコンテンツが何度も10代の少女に繰り返し表示されることで、健康への悪影響があるため」と説明しています。

TikTokが発表した翌日である17日(金)、ウォール・ストリート・ジャーナルは「‘The Corpse Bride Diet’: How TikTok Inundates Teens With Eating-Disorder Videos(死体の花嫁ダイエット：TikTokはどのように10代の少女を摂食障害の動画漬けにしたのか)」という記事を公開。記事では、TikTokで流れてくる過激なダイエット動画の視聴をやめられなくなり、入院といった事態になった少女たちの記録と、実際にTikTokがどのように少女たちに動画を見せていたのかという実験の結果についてが記されています。

ウォール・ストリート・ジャーナルは過去1年間で100個のTikTokアカウントを作成し、ボットとしてさまざまな動画を視聴させました。これらのアカウントにはキーワードと機械学習を利用して「興味・関心」が設定されたとのこと。

ボットは自身のキーワードと動画の内容がマッチしたときに視聴を行い、マッチしなかった時には動画をスルーして次に移るという対応を行いました。また、ボットの中には最初の段階で検索を行ったり、自身の好みを示すシグナルを送ったりするものもあったとのこと。ボットの中には「13歳」という設定で、減量・ギャンブル・飲酒といったトピックにこだわるようプログラミングされ、25万5000回もこれらの動画を視聴させれられたものも存在しました。

ウォール・ストリート・ジャーナルが分析した結果、まず、TikTokの中に減量と関連する数百のキーワードとマッチする動画が3万2700本存在することが判明しました。このうち1万1615本の動画は摂食障害の関連キーワードとマッチし、4402本の動画は摂食障害を正当化あるいは推奨していたそうです。また、動画の多くはモデレーションを回避するために、通常とは異なるスペルでタグ付けされていることも判明しました。

加えて、実際にTikTokが原因で過剰な食事制限を行い、たんぱく質不足から髪が抜け、胆石が発達して胆嚢を除去する手術をしたといった10代の少女たちについても、ウォール・ストリート・ジャーナルは言及しています。

ウォール・ストリート・ジャーナルが調査で判明した2960本の摂食障害の動画についてTikTokに報告したところ、うち1778本がTikTokから削除されました。また、TikTokがアルゴリズムの変更を発表したのは、ウォール・ストリート・ジャーナルがTikTokに調査について報告し、コメントを求めてから数日後だったとのことです。

SNSは10代の少年少女にネガティブなボディイメージを与えやすいといわれており、メンタルヘルスに悪影響を与えることが指摘されています。

SNSが少年少女に与える悪影響には性差や年齢差がある、その詳細とは？ - GIGAZINE

特に悪影響が指摘されているのはInstagramですが、TikTokも同様の問題を抱えています。アメリカでは新型コロナウイルス感染症(COVID-19)の流行をきっかけに若者の摂食障害が増加しているといわれており、専門家は外出できなくなった子どもが孤立し、SNSに費やす時間が増加したことが原因と見ています。