殺人や暴力映像を監視・削除するFacebookのモデレーターの間にセックス・大麻・差別ジョークが広まる事態に

by DanFa

インターネット上に存在するポルノや暴力的なコンテンツを監視・削除するモデレーターがPTSDを発症するといった事態はこれまでにも報告されていました。海外ニュースメディアのThe Vergeが新たに行った取材でFacebookのモデレーターの現状を報告しており、パニック障害を発症する従業員や、陰謀論を信じるようになり銃を携帯するようになった従業員、職場で性行為やマリファナにふけることで落ち着きを取り戻す従業員の存在などが明らかになっています。

The secret lives of Facebook moderators in America - The Verge
https://www.theverge.com/2019/2/25/18229714/cognizant-facebook-content-moderator-interviews-trauma-working-conditions-arizona

Casey Newtonさんが取材したのは、Facebookのコンテンツを監視する業務を請け負うCognizantという企業で働いていた元従業員たち。Cognizantの従業員たちは頻繁に殺害現場や差別を促す映像を目にしなければならず、徐々に精神に問題を抱えるようになり、多くの従業員が会社を辞めざるを得なくなるそうです。

例えば、元従業員のクロエさんは誰かが男に何度も刺されて殺害されるムービーを見た後に涙が止まらず呼吸困難になり、その後、パニック障害を発症したといいます。また、日々陰謀論のムービーを見ているうちに考え方が変化し、ホロコーストに疑問を持つようになったという従業員もいれば、「アメリカ同時多発テロ事件はテロ攻撃だと思わなくなった」として、枕元に銃を置いて眠るようになったと語る従業員も存在します。

元従業員のミゲルさんは差別的な発言を見つけ出し削除する業務を行っていますが、目を通すコンテンツの中には差別的なジョークを含むものがあれば、農場の動物と性行為する男性の映像、ドラッグのカルテルによって撮影された殺人の映像などもあるとしています。最も多いのはイジメやヘイトスピーチの映像で、Facebookよりも偽名アカウントを作りやすいInstagramの方がFacebookよりも性行為やヌード、暴力の映像が共有されやすいとミゲルさんは述べています。

by Bich Tran

また、Cognizantで1年働いた元モデレーターのLiさんは「マリファナを吸っていた人が何人いたか伝えられない」ほどにマリファナの使用が一般的だったことを述べ、「職場の雰囲気を明るくするために」従業員が差別的なジョークを競い合うように言っていたことを説明しています。民族的なマイノリティであるLiさんはジョークのネタにされることも多かったそうですが、Liさん自身はそのようなジョークを「いい意図であるもの」と認識していたそうです。笑いを生み出すには自分自身を傷つけるしかない、という環境に慣れていったLiさんですが、ある日、食料品店にいる時に職場で話すような差別的なジョークを口に出してしまったとのこと。「しまった。ここは食料品店だった。こんなことを話すべきではないのに」と気づいたLiさんは次第に自分の精神状態に不安を抱くようになり、働き始めて1年で退職しました。

Cognizantの従業員たちは働く際に「Facebookのために働いていることについて話さない」という秘密保持契約にサインしており、これは従業員保護のためとされていますが、請負業者がFacebookユーザーの個人情報を外部と共有することを防ぐためでもあります。しかし、この秘密保持契約があるために従業員は仕事について家族や恋人、友人と話すことができず、親しい人たちとの間に自然と距離ができてしまうそうです。その結果として、仕事で経験したつらい出来事を職場の同僚と共有するようになり「トラウマボンド」のような感情的なつながりが強くなるとのこと。職場では自殺に関するブラックジョークが飛び交い、感情を落ち着けるためにお酒やマリファナが利用され、階段や授乳室で性行為が行われているといいます。

Facebookのマーク・ザッカーバーグCEOは2017年5月3日にコミュニティ運営チームの拡大を発表し、コンテンツを評価しFacebookの暴力ポリシーに反するものを報告するモデレーターの増員を約束しました。2018年までにはFacebook上で公開される暴力コンテンツへの批判を受けて安全とセキュリティを担当する従業員は3万人以上になりましたが、この半数はコンテンツ・モデレーターだといわれています。

モデレーターの中にはFacebookがフルタイムで雇用しているスタッフもいますが、Facebookはその大部分を請負業者に頼っているとのこと。Facebook社員の年収の中央値は24万ドル(約2600万円)なのに対し、請負先の企業の従業員の年収は2万8800ドル(約320万円)ほど。Facebookはこれにより多くの利益を生み出せているとNewtonさんは述べており、2017年にザッカーバーグCEOが投資家たちに「収益はセキュリティへの投資の影響を受ける」と警告したにも関わらず、Facebookの収益が前年比で61％アップしている点について指摘しています。

「モデレーター」という仕事は暗い部屋で何時間もコンピューターとにらめっこし、残酷なムービーを見続けるというイメージがありますが、実際のCognizantは日当たりや風通しがいい環境で、表面上はFacebookのオフィスのような印象があるといいます。しかし、Facebook社員たちが自由な裁量で仕事を行っているのに対し、Cognizantの社員は1日のうち15分の休憩が2回と30分のランチタイム、そして1日9分の「ウェルネスタイム」が与えられるだけ。ウェルネスタイムは精神的な苦痛からデスクを離れる必要があると感じた社員のためのものですが、休憩時間のトイレの列があまりにも長いため、トイレ休憩のためにウェルネスタイムを使っている人もいるそうです。また、離職率の高さを理由にほとんどの人が常設のデスクを割り当てられていません。

人がナイフで何度も刺されて殺害される映像を目にしたクロエさんは、多くのモデレーターと同様に1年で仕事をやめていますが、その後、PTSDに苦しむようになりました。仕事をやめて数カ月後に母親と「mother！」をいう映画を見に行った時や、家で眠っている時に機関銃の音を耳にしてパニック発作を起こしたといいます。

招かれざる客が家を侵食していく「ブラック・スワン」監督の新作ミステリー映画「mother！」予告編公開 - GIGAZINE

NewtonさんがFacebookやCognizantの幹部と面談した際には、上司の同席の下で5人のCognizant従業員が職場について話しましたが、彼らは「難しい職であること」は認めつつも「安全でサポートされていると感じており、この仕事がCognizantでよりよい給与を得る機会のあるもの」だと説明したといいます。ポリシーマネージャーのブラッドさんは、「私たちの目にするものの大部分は『暴言を吐く人』のような穏やかなものです」と話し、Newtonさんに対して「『Cognizantの仕事にはメンタルヘルス上のリスクがある』と誇張しないように」と警告したとのこと。

Newtonさんが話したモデレーターはみんな仕事に誇りを持っていて、仕事の重要性を真剣に捉えた上で、「Facebookの従業員が自分たちを対等に、同僚として扱うこと」を望んでいたといいます。FacebookだけでなくYouTubeやTwitterでもモデレーターという仕事は重要です。人工知能が発達しているといっても、いまだ大部分を人間の力に頼らざるという得ないという現状を踏まえ、Newtonさんは、コスト削減のためにコンテンツのモデレーターがコールセンターのような形で運営されることへの疑問を呈しました。

なお、2019年2月25日にFacebookは「Our Commitment to Our Content Reviewers(コンテンツ評価者に対する私たちの約束)」という記事をニュースルームに公開。「私たちはFacebookのコンテンツ評価の慣行に多くの疑問・誤解・非難があることを理解しています」という書き出しで、コンテンツ評価を行うパートナー企業の関係についてが言及されています。

Our Commitment to Our Content Reviewers | Facebook Newsroom
https://newsroom.fb.com/news/2019/02/commitment-to-content-reviewers/

この中でFacebookは「契約が明確であること」「定期的に視察を行っていること」「週ごとの電話、定期的な視察、月ごとあるいは四半期ごとのビジネス評価で、職場環境やウェルネスのサポートが行われているかがチェックされていること」を明確に述べています。

さらに、Facebook広報はCognizantの「私たちは健康的で安全、ポジティブな職場環境を提供しています」という声明を伝えています。The Vergeの記事を受けてCognizanは特定の職場における問題を調査したとして、24時間無休の電話サポートのほか、オンラインカウンセラーを含む包括的なウェルネスプログラムの提供、次世代のウェルネスサポートを開発する人事コンサルタントとの提携を発表しています。