インターネット上のコンテンツを監視・削除するモデレーターは「最悪の仕事」

by Sergey Zolkin

インターネット上に多数存在する児童ポルノや犯罪写真などをチェックし、必要があれば削除するのがコンテンツ監視者(モデレーター)の仕事です。そんなモデレーターの仕事は想像以上に過酷で、「最悪の仕事」と呼ばれることもあるほどです。実際にFacebookでモデレーターとして働く女性が、仕事の難しさやこれまで見た最悪のコンテンツなどについて赤裸々に明かしています。

'It's the worst job and no-one cares' - BBC News


Facebookは2018年4月24日にコミュニティ規定ガイドラインの改訂版を公開しました。ここにはユーザーが投稿してもよいコンテンツとはどのようなものかが示されているのですが、同時に初めてFacebook上のコンテンツの監視・削除を行うモデレーターが「どのような基準で処理を行っているか」が明かされました。そんなコミュニティ規定ガイドラインに従って違反コンテンツの削除を粛々と行っているモデレーターに迫るのがこのムービー。

ドイツ・ベルリンにあるオフィス。ここでFacebookのモデレーターたちは働いています。


毎日何千もの写真およびムービーをチェックしているモデレーターの役割には、問題があります。


「コンテンツ・モデレーターはFacebook上でも特に重要な職です。同時に、最悪の仕事でもあり、誰も気にかけてくれることはありません。モデレーターとして働くことになったなら、あなたは毎日ショッキングな、トラウマになるようなものを目にすることになるでしょう」と語るのは、Facebookでモデレーターとして働くラウラさん。


実際にどのようなものを毎日見ているのかというと、「断頭の瞬間」や「児童ポルノ」、「動物虐待」などさまざま。


モデレーターとしての仕事は精神的に過酷で、ラウラさんは「自分が機械になったかのように、手で『次へ』のボタンを押し、コンテンツは削除すべきものか『YES』か『NO』で選びます」と仕事中は自分の心を機械にして作業をこなしていることを明かしています。


「これまで見たコンテンツで最悪のものは?」という質問に対しては、「わずか生後6か月の赤ん坊のレイプ」や「血の写り込んだテロリズムの写真」などを挙げています。


Facebookのモデレーターチームの直属の上司にあたる、プロダクトポリシー部門の長であるモニカ・ビッカートさん。


「モデレーターの仕事が過酷であることはよくわかっています。しかし、グラフィックコンテンツはモデレーターが監視するコンテンツの中のほんの一部に過ぎません。Facebook上に誰かがアップロードした最悪のコンテンツはますます増加しているので、我々はテクノロジーを駆使してコンテンツの監視・削除を行う必要性に迫られています」と語ります。


モデレーターとして働くラウラさんに向けて「私生活などに支障をきたすことはあるか?」という質問が投げかけられると、「私は何度も悪夢を見ました。私が覚えているものでいうと、なぜかはわかりませんが、人々が建物から飛び降りるという悪夢を見たことがあります。そして、飛び降りる人たちは周りに助けを求めるわけでもなく、写真やムービーを撮影しているんです」と、何度も悪夢にうなされていることを告白。


「夢の中で私は泣きながらひとりの小さな女の子をキャッチしたことがあります。キャッチすると夢から覚め、現実の私も泣いていることがわかりました。夢から覚めて覚えていたのは、辺り一面が血で染まっていることと人々が飛び降りながらムービーを撮影していることだけです」と、かなり残酷な悪夢を見るようになってしまったことがうかがえます。


さらに、「モデレーターに対しての会社側のサポートについてはどう思いますか?」という質問では、「まったくサポートなんてありません。私たちはほとんど毎日愚痴をこぼしています。私たちは問題を抱えているため、文字通りほぼ毎日です。ものの見方がそれまでとは全く変わってしまいました」と明確にFacebook側を批判しています。


それに対してビッカートさんは「我々はモデレーターが何を必要としているのかについて、熱心に取り組んでいるつもりです。そして、彼らが仕事を快適と思えていないのなら、カウンセリングを受けることもできます。さらに必要ならば異なる種類のコンテンツを監視する職に変えることもできます」とコメント。


さらに、「なぜなら我々にとって、コミュニティーの安全を確保することと同様に、従業員をサポートし彼らの健康面を保つことも非常に重要なことだからです」と述べています。


しかし、ラウラさんは十分なサポートが受けられているとは思っていない模様。「何度かマーク・ザッカーバーグCEOが我々のオフィスを訪れる所をイメージしたことがあります。そして私は彼に『ここで起きていることをどうして許しているのですか?』と尋ねるんです。我々のような若い従業員が日々このようなコンテンツをチェックしており、それでいてサポートは何もありません」と、FacebookのザッカーバーグCEOに直接モデレーターチームの現状を訴える機会を欲しているとしています。


なお、Facebook側は「コンテンツ・モデレーターは24時間いつでも心理学者のカウンセリングを受けることができる」としています。

・関連記事
インターネット上のコンテンツを監視・削除するモデレーターの実態に迫る「The Moderators」 - GIGAZINE

Googleで児童ポルノやグロテスクなコンテンツがないか監視し続けた男性 - GIGAZINE

世界中のインターネットユーザーの3分の2は政府の検閲の中で生きている - GIGAZINE

YouTubeは1日に9万本・計820万本のムービーを規約違反で公開停止、大半がアルゴリズムによる自動停止 - GIGAZINE

Twitterユーザーに自殺を促す広告ツイートが表示されていたことが判明 - GIGAZINE

in 動画, Posted by logu_ii