「有名人の排尿写真はスルー」など、Facebookが写真を削除する秘密のルールが内部資料の暴露で明らかに

By Thomas Hawk

Facebookは性的または暴力的なコンテンツや、および人身に実際の危害を及ぼす、または公共の安全を直接脅かすおそれがあるコンテンツなどがアップロードされると削除すると規定しています。以前にピューリッツァー賞受賞作品である「ベトナムの少女」を削除したことがあったように、「削除するべきコンテンツ」の判断は難しい場合もありますが、Facebookの内部資料がリークされ、実際に削除されるコンテンツはどのようなルールに従って選ばれているのかが明らかになっています。

International - Facebook’s secret rules of deletion
http://international.sueddeutsche.de/post/154543271930/facebooks-secret-rules-of-deletion

Facebookはコンテンツを削除する基準をすべて公開していませんが、SZ-Magazinは非公開のFacebook社内資料の一部を入手し、その中からいくつかのルールを抜粋して公開しました。社内文書をそのまま公開するのではなく、イラスト風に編集されていますが、これは情報源を保護するためとのこと。

以下の画像の右下に描かれているロゴは、Facebook内で削除ルールを制定する部門のシンボルマークとして使われているもの。Facebookがヘイトスピーチなどの不適切なコンテンツに対してアクションをとる姿勢を示しているとのこと。ここで制定されたルールは、ドイツに本社を置くメディア事業会社ベルテルスマン傘下のarvato社のような外部サービス提供会社に運用が委託され、外部会社の従業員はワークショップを受けることでコンテンツを削除するかしないかを学んでいるとのことです。

Facebookが制定しているコンテンツの削除ルールは以下のような内容になっています。

◆ヘイトスピーチは削除対象
Facebookは特定の「保護カテゴリ」に対する差別的な発言を「ヘイトスピーチ」と見なして削除しています。具体的には「性別」「宗教」「国籍」「性自認」「人種」「民族性」「性的指向」「身体的・精神的障害、重病」に基づく差別的発言が削除されます。また、同じページ内にサブカテゴリとして「年齢(若者、高齢者、ティーンエイジャーなど)」「雇用状況(失業者、教師、医師、パイロット、宇宙飛行士など)」「出身大陸(ヨーロッパ、南アメリカ、アジア、アメリカ、オーストラリアなど)」「社会的ステータス(裕福、貧困、中産階級など)」「外見(ブロンド、ブルネット、背が高い、低い、太っている、痩せているなど)」「所属政党(共和党、民主党、社会主義党、共産主義党、革命党など)」も記載されています。サブカテゴリは「非保護カテゴリ」に属しています。

◆カテゴリの組み合わせで削除の基準が変化する
Facebookが制定している「保護カテゴリ」は、ほかの保護カテゴリと組み合わさることで、異なるカテゴリに変化することがあります。例えば「アイルランド人女性」を例に挙げると、「国籍」「性別」という2つの保護カテゴリが適用され、誰かが「アイルランド人の女性はまぬけだ」と投稿すると「保護カテゴリに基づく攻撃」として投稿は削除されます。一方で、保護カテゴリに非保護カテゴリが組み合わさると「非保護カテゴリ」に変化するため、「アイルランド人のティーンエイジャーはまぬけだ」という投稿は削除されないことになります。

◆許可される文章と許可されない文章のガイドライン
社内文書のヘイトスピーチの項目には、いくつかの例文が記載されています。例えば「移民」という言葉はドイツからの苦情を受けて新設された「準保護カテゴリ」が適用されるため、削除対象にならないケースがあるとのこと。例えば「クソイスラム人」という投稿は削除されますが、「クソ移民」は許可されます。ただし、「移民は不潔だ(migrants are dirty)」は許可されますが、「移民はゴミだ(migrants are dirt)」は削除されるとのこと。

◆自傷行為は削除対象外
タトゥー(左上)、ピアス(左下)、拒食症の女性(右上)、深刻な重傷を負った子ども(右下)のような自傷行為の写真は削除されません。ただし、これらの自殺・自傷行為を促すテキストをいっしょに投稿すると削除対象になります。これはFacebook上で自殺防止のため助けを求められるようにするための配慮で、「自傷写真を投稿するユーザーには、自殺を防止するホットラインの電話番号が通知されるべき」とも記載されています。

◆いじめは削除対象
外見や性格に基づいたランキングの作成はいじめと見なされ、削除されます。例えばビーチにたたずむ3人の女性の写真に「誰が一番ホットですか？コメント待ってます！」のようなテキストをつけると削除対象となります。このガイドラインが厳密に適用されれば、ドナルド・トランプ氏の女性に対する差別的発言も削除されるはずです。

◆排尿する人を嘲笑する写真は削除対象
いじめの項目では、「月経、排尿、嘔吐、排便している人の屈辱的に見える写真は許可されない」と記載されています。削除対象の例として掲載されているのは以下のような写真で、左の写真には「ハハハ！彼はトラブルを抱えているように見えるね」というキャプションがあり、真ん中の嘔吐している人の写真には「うわっ！お前は大人だろう。気持ち悪い！」と書かれており、右のお尻が赤く染まっている女性の写真には「誰か彼女に生理用ナプキンを貸してあげて下さい（笑）」とあります。

◆議論の余地がある写真は削除されない
Facebookは写真を削除するルールを細かく制定しているわけですが、限りなくグレーなケースでも写真を削除できないことがあります。以下のような写真はいずれも「いじめ」に適用されてもおかしくないですが、キャプションが付いていないため判断できないという例です。例えば右端の女性の写真が「屈辱的」かどうかについては、議論の余地があるためです。

◆著名人の区別
Facebookは「著名人への攻撃」を禁止していますが、著名人とは「公職に就いている人」「SNSで10万人以上のフォロワーを持つ人」「放送機関やニュースメディアに雇用されており、なおかつ公式声明を発信している人」「過去2年間で5回以上報道された人」と規定されています。

◆著名人の嘔吐写真は削除対象外
「月経、排尿、嘔吐、排便している人の屈辱的に見える写真」はFacebookのガイドラインで禁止されていますが、これらの写真を投稿したのが「著名人」に分類される人物である場合、写真は削除対象外となります。例えばBlack-Eyed Peasの歌手であるファーギーがコンサート中に失禁している写真、One Directionの元歌手ハリー・エドワード・スタイルズが嘔吐している写真、俳優のオーウェン・ウィルソンが公衆の場で排尿している写真などがFacebookにアップロードされたことがありましたが、「著名人の月経、排尿、嘔吐、排便写真は放置するべき」と記述されています。