写真共有サービスの「Pinterest」はポルノや陰謀論などの有害コンテンツを削除するのではなく検索結果から除外している

写真共有サービスの「Pinterest」上には少女の性的な写真や陰謀論、白人至上主義者の主張といった有害コンテンツが多数存在していると、技術関連メディアのOneZeroが報じています。

Pinterest Hosts Sexual Images of Young Girls, Anti-Vax Memes Despite Moderation Promises | OneZero
https://onezero.medium.com/pinterest-hosts-sexual-images-of-young-girls-anti-vax-memes-despite-moderation-efforts-52d8a1007e1e

Pinterestはプラットフォーム上に存在するコンテンツが健全なものとなるように積極的なモデレーションを行っており、その取り組みが度々評価されてきました。しかし、OneZeroは調査を行い、Pinterestのモデレーションに使用されているフィルターを回避する有害なコンテンツが多数存在することを発見しました。OneZeroは「今回の調査結果は、危険なコンテンツをプラットフォーム上から削除するのではなく、『隠す』というPinterestのモデレーションアプローチの持つリスクを強調しています」と記しています。

Pinterestの広報担当者はOneZeroに対して、「我々はインスピレーションのための場であり、ユーザーにとって安全かつポジティブな場になりたいと考えています。Pinterestに掲載すべきではないコンテンツを見つけた場合、運営側に報告することを推奨しています。PinterestではGoogleの基準を進化させ、ユーザーからのレポートに基づいてコンテンツを発見・削除するための予防的なツールを運用しています。さらに、ポリシーの施行と改善する方法について、外部の専門家から助言も求めています」とコメントしました。

Pinterestのベン・シルバーマンCEOは、同プラットフォームはソーシャルネットワークではなく「ユーザーのために厳選されたカタログ」であると主張することで、他のプラットフォームとは異なるアプローチを取ってきました。FacebookとTwitterは何百万もの有害な投稿とアカウントを削除することで有害なコンテンツに対処してきましたが、Pinterestは「予防接種やがん治療などに関する誤った情報」などの有害コンテンツを検索禁止にすることで対処しています。

ウォール・ストリート・ジャーナルによると、Pinterestの検索エンジンは有害コンテンツを完全に排除するのではなく、誤情報につながる可能性のあるキーワードを検索結果から完全にブロックしています。例えばPinterestで「ワクチン」と検索すると、医療デマに関する免責事項や世界保健機関(WHO)・疾病対策センターからの役立つ情報数十件が検索結果上に表示されます。

Pinterestのモデレーションは有害コンテンツを削除するのではなく検索結果から除外するというアプローチです。このアプローチは完全なものではなく、OneZeroは調査の中でPinterestのコミュニティガイドラインに違反する有害コンテンツが多数プラットフォーム上で閲覧できる状態だそうです。National Observerの記者であるCaroline Orr氏も、子ども用家具の横に有害コンテンツであるBDSM製品が並んでいると指摘しています。OneZeroによると「この種の有害コンテンツは検索結果から隠されているケースもありますが、簡単に見つけられるケースがほとんどです」とのこと。

これについてPinterestの広報担当者は、「検索結果が危険である可能性が高いと考えられる場合、重大な危害をもたらすか、差し迫った危険をもたらす可能性があるため、検索結果を完全にブロックします。ただし、すべての検索結果がポリシーに違反しているとは限らないため、このブロックは検索クエリレベルで発生し、基になるコンテンツが削除されることはありません」と述べ、Pinterestのモデレーションが「コンテンツの削除」ではなく「検索結果からの除外」であることを認めています。

Pinterestの検索結果上にはユーザーの閲覧履歴に基づいてコンテンツが推奨表示されます。ただし、有害コンテンツの多くはPinterestからログアウトしている際に検索結果に表示されたり、Googleなどの検索エンジン経由で発見したりすることができるそうです。ユーザーがこういった方法でPinterest上のコンテンツを閲覧するか否かは不明ですが、有害コンテンツを削除するのではなく検索結果から除外するだけという手法の「潜在的なリスクを露呈している」とOneZeroは警告しています。

Pinterestの広報担当者は「コンテンツを特定し、発見できないように対策を講じていますが、コミュニティガイドラインに違反するものであると判別されても、違反コンテンツが検索エンジンの検索結果に表示されてしまうケースがあります」と語り、有害コンテンツの一部がGoogle検索などの検索結果に表示されてしまうケースがあることを認めています。

なお、OneZeroはPinterest上で発見することができた有害コンテンツとしては、児童ポルノ・5Gと新型コロナウイルスに関する陰謀論・白人至上主義者による人種差別的な主張などがあったと報告しています。