虐殺・銃乱射・レイプなどを1日10時間以上見せられメンタルケアがないとTikTokのモデレーターが会社を提訴

by Solen Feyissa

TikTokで投稿されるコンテンツのチェックを行ってきた元モデレーターが、厳しい業務であるにもかかわらず会社による対策が不十分であるとして、TikTokを運営するByteDanceを訴えました。

TikTok’s Content Moderator Sues Platform for Graphic Video Trauma - Bloomberg
https://www.bloomberg.com/news/articles/2021-12-24/tiktok-sued-by-content-moderator-traumatized-by-graphic-videos

TikTok sued by former content moderator for allegedly failing to protect her mental health - The Verge
https://www.theverge.com/2021/12/24/22852817/tiktok-content-moderation-lawsuit-candie-frazier

Moderator suing TikTok over PTSD after watching traumatic videos | Metro News
https://metro.co.uk/2021/12/27/moderator-suing-tiktok-over-ptsd-after-watching-traumatic-videos-15828437/

1日に平均して1億本弱の動画が投稿されるTikTokには、グルメやダンス、コスメなど多くの人が楽しめるものだけではなく、「不適切」な動画も投稿されることがあり、モデレーターが内容をチェックして削除したりユーザーの目に触れにくくしたりという対応を行っています。その本数は、2021年第2四半期(4月～6月)のレポートによると8151万8334本。投稿から24時間以内に削除されたものが93％で、94.1％はユーザーからの報告があるより前に削除されています。

TikTok 2021年第2四半期 コミュニティガイドライン 実施レポート | TikTok
https://www.tiktok.com/safety/resources/tiktok-transparency-report-2021-q-2?lang=ja

違反コンテンツを自動的に削除するシステムも導入されており、全削除件数のうち1695万7950本はこのシステムにより削除されたとのことですが、裏返すと、6500万本近くの動画はモデレーターがチェックして削除したものということになります。

ByteDanceを訴えた元モデレーターのキャンディ・フレイジャー氏によると、モデレーターの仕事は休憩込みで12時間シフト。1日に数百本の動画をチェックするのですが、1本あたりにかける時間は25秒。このため、だいたいは3本～10本を同時にチェックしていたそうです。

チェックする動画の中には銃乱射、児童性虐待、動物解体、虐殺などが含まれていて、フレイジャー氏は精神的外傷に苦しんでおり、ByteDanceに対して休憩時間の増加や心理的サポート、動画確認時の解像度低減措置・モザイク措置などを求めています。

なお、今回の訴訟に携わるカリフォルニア州のジョセフ・サベリ法律事務所は2018年にFacebookのモデレーターに関する同様の訴訟を担当した経歴があります。この訴訟で、Facebookはモデレーターに対して5200万ドル(約56億円)の和解金を支払いました。

Facebookが55億円超の和解金を有害コンテンツの監視でPTSDを患った下請け従業員らに支払うことで合意 - GIGAZINE