画像ブックマークサービス「Pinterest」は児童ポルノを日夜チェックして回るモデレーターを雇っている

Pinterestは、インターネット上にある画像やムービーなどを「ピン」することで、パーソナライズされたメディアプラットフォームに保存して共有できるというソーシャルメディアです。技術系ニュースメディアのOneZeroが、2016年から2019年までPinterestで働いていた3人の元モデレーターとの接触に成功し、その業務内容についてインタビューしています。

‘A Permanent Nightmare’: Pinterest Moderators Fight to Keep Horrifying Content Off the Platform | by Sarah Emerson | Jul, 2020 | OneZero
https://onezero.medium.com/a-permanent-nightmare-pinterest-moderators-fight-to-keep-horrifying-content-off-the-platform-4d8e7ec822fe

日刊紙のニューヨーク・タイムズによれば、2010年にスタートしたPinterestが最初に獲得したユーザー層は10代の若者ではなく、アメリカ中西部の女性やホームデザイナーが中心だったとのこと。Pinterestのベン・シルバーマンCEOは「インスピレーション、自己改善、塩味のキャラメルクッキーのレシピを安全にとっておける、幸せな場所にすること」をPinterestの目標に掲げています。

人に優しいソーシャルメディアを目指したPinterestは、プラットフォームの健全性を守るために、誤情報に対する取り組みを積極的に強化しています。2018年にはがん治療についてなどの誤った医療アドバイスの検索禁止を掲げ、2019年には健康やワクチン関連の情報について公衆衛生組織からの正しい情報を提供するようになりました。

また、ブライダル事業も展開しているPinterestは、アメリカ南部の元奴隷農場を素敵な結婚式場に見せるような広告を一切やめる方針に転換し、話題となりました。

そんなPinterestが抱える大きな問題が、人種差別的な画像や児童ポルノに当たる画像が大量にピンされているという問題です。Pinterestでは、問題のあるピンに対して「削除するのではなく、検索結果から除外する」という対処が取られることがあり、その場合はGoogleの検索結果に残ってしまうこともあり得ます。そのため、児童ポルノ画像については自動追跡技術などを導入することでサイトをクリーンに維持するように努めていました。

写真共有サービスの「Pinterest」はポルノや陰謀論などの有害コンテンツを削除するのではなく検索結果から除外している - GIGAZINE

ただし、一連のガイドラインとアルゴリズムのみで問題を解決できるわけではありません。Pinterestではアルゴリズムのほかに、人間のモデレーターも作業に参加しています。モデレーターは違反したピンへの対処の決定、疑わしいユーザーとそのネットワークの調査、判断が難しいコンテンツの吟味などを行います。

元モデレーターによれば、Pinterestでのモデレート作業は、ポルノやヘイトスピーチ、暴力的な描写など、モデレートする対象を選ぶことが可能だったとのこと。モデレーターは検出アルゴリズムが選んだ画像やPinterestユーザーから通報があった画像を見て、ピンの非表示か削除かを選び、ピンしたユーザーに対するペナルティを決定します。モデレーターOneZeroによれば、2018年の時点でモデレーター1人当たり1日に最大8000枚の画像を確認可能だったとのこと。

例えば、「サマーシーズン」と名付けられたボードには、ビキニ姿の少女の画像が何百枚も含まれていたとのこと。モデレーターはこの少女の画像が「家族による写真」なのか「子ども好きの変質者が撮りためた写真」なのかを判断する必要があります。

また、流血シーンが多く写る画像をピンしていたボードが報告されました。これは一部の医学生が試験の準備として外科手術の写真をピンしていたボードでした。もちろん文脈を判断すると犯罪とは関係のない使用方法なので、使用自体は許可されますが、モデレーターはこのボードが他のユーザーの目につかないように非表示にする設定を行います。

モデレーターは、児童ポルノや暴力的な画像を多く見る必要があるため、トラウマを抱えてしまうケースが多いそうです。これはPinterestに限った話ではなく、YouTubeでも大量のポルノ映像や暴力映像をチェックするモデレーターの精神健康被害が問題になっています。

YouTubeで暴力的なムービーをチェックする監視スタッフの健康被害が問題になっている - GIGAZINE

モデレーターを含めたPinterestの従業員には、無料の食事やアルコール、快適で静かな部屋が与えられ、無料でアーケードゲームが遊べるなど、手厚い福利厚生を受けることができます。しかし、過酷な仕事内容と陽気な福利厚生のギャップに参ってしまうモデレーターも少なくなかったようです。OneZeroの取材に応じたPinterestの元モデレーターは、「モデレーターは長期間続けるような仕事ではありません。仕事内容を考えると、Pinterestのメンタルヘルスへのサポートは不十分でした」と述べました。

Pinterestもモデレーターのメンタルヘルス問題の対処に動いているそうで、特定のカテゴリに対しては機械学習モデルを改善していると広報担当者は述べています。また、モデレーターは6週間に1回セラピストによる30分のカウンセリングを受けることができるほか、出張マッサージ代も毎月支給しているとのこと。

by Roxanne Ready

Pinterestの広報担当者は「Pinterestでは、モデレーターはさまざまな専門的なトレーニングを受けています。なぜなら、誰かを傷つけるような言葉や歴史的な憎悪シンボルをすぐに認識することは期待できないからです」「モデレーターが特定のテーマで苦労していることを発見した場合、ワークフローをオフにし、もしモデレーターが仕事を続けるのが難しいと判断した場合、我々は彼らと協力して、コンテンツ指向ではないプロジェクトなどを紹介し、Pinterest内外で新しいポジションを見つける時間を与えます」と述べました。

元モデレーターたちはPinterestに対して悪意を持ってはいないと述べながらも、「Pinterestはモデレーターたちを過小評価していた」と主張しています。元モデレーターの1人は「私にとっては、Pinterest自体の規模とPinterest自体のDNAが問題になると思います。事が大きくなるにつれて、製品としての目標が『誰もが参加し、収益化すること』であるならば、Pinterestという発見のプラットフォームは永久に悪夢となるでしょう」とコメントしました。