Instagramのアルゴリズムはユーザーに「子どもの性的コンテンツを販売するネットワーク」を推奨していることが判明

Metaが運営する画像・動画共有SNSのInstagramが、子どもの性的コンテンツを販売するアカウントにつながる「小児性愛者のネットワーク」を拡大してしまっていることが、日刊紙のウォール・ストリート・ジャーナルやスタンフォード大学などの調査で判明しました。

Addressing the distribution of illicit sexual content by minors online | FSI
https://cyber.fsi.stanford.edu/news/addressing-distribution-illicit-sexual-content-minors-online

Instagram Connects Vast Pedophile Network - WSJ
https://www.wsj.com/articles/instagram-vast-pedophile-network-4ab7189

一部の小児性愛者はSNSが登場する以前から、違法な性的コンテンツをインターネット上で販売・共有してきました。しかし、一部の人のみがアクセスするファイル転送サービスやフォーラムとは異なり、興味関心に基づいたコンテンツやユーザーのレコメンデーションシステムが存在するSNSは、潜在的なユーザーが「小児性愛者のネットワーク」につながることを促進する可能性があります。

技術的・法的な障壁のため企業の外部からSNS上のネットワークを研究することは困難ですが、スタンフォード大学インターネット観測所やマサチューセッツ大学アマースト校のレスキューラボの専門家は、違法な小児性愛コンテンツを促進する大規模なコミュニティを特定することに成功しました。

研究者は、Instagramで「#pedowhore(小児の売春婦)」「#preteensex(小児のセックス)」といった露骨なハッシュタグで検索し、子どもの性的コンテンツを販売するアカウントを見つけることができたと報告しています。研究用に作成したテストアカウントから小児性愛者ネットワークに含まれるアカウントの1つを閲覧すると、未成年者の性的コンテンツを販売・購入するアカウントが「おすすめ」として表示されたとのことです。

実際、児童搾取の危険性についてInstagramで発信しているサラ・アダムス氏は、フォロワーから「incest toddlers(幼児の近親相姦)」という用語を用いる不審なアカウントについて報告を受け、そのアカウントにアクセスしたとのこと。それから数日後、アダムス氏の両親から「あなたのInstagramプロフィールを見た時、『incest toddlers』がおすすめ欄に表示されている」と報告を受けたと述べています。

小児性愛者に性的コンテンツを販売するアカウントは多くの場合、「子どもが自分自身で性的コンテンツを作成している」と主張しており、性的な言葉を組み込んだハンドルネームを使用しているそうです。SNS上に投稿されるのは「性的コンテンツのメニュー」であることが一般的で、外部の取引サイトに誘導してコンテンツを売買しているとウォール・ストリート・ジャーナルは報じています。

インターネット観測所は未成年のセックスに関連するハッシュタグを使用し、「自分で生成した」とラベル付けされている、または子ども自身が運営していると主張する405個の性的コンテンツ販売アカウントを発見しました。これらの販売用アカウントのうち112個には、合計で2万2000人ものフォロワーがいたこともわかっています。

インターネット観測所の責任者であり、2018年までMetaの最高セキュリティ責任者を務めていたアレックス・ステイモス氏は、明らかな性的虐待コンテンツをプラットフォームが制御するには継続的な努力が必要だと指摘。「アクセスが制限された3人の学者チームが、これほど巨大なネットワークを発見できたことはMetaに警鐘を鳴らすでしょう」と述べ、Metaが小児性愛者ネットワークの摘発に投資することを望むと主張しました。

ウォール・ストリート・ジャーナルの問い合わせに対し、Metaは執行上の問題を認めて内部タスクフォースを設置したと主張し、「児童搾取は恐ろしい犯罪です。私たちはこれらの行動を積極的に防ぐ方法を継続的に調査しています」と述べました。また、Metaは過去2年間で27個の小児性愛者ネットワークを停止しており、子どもを性的に扱うハッシュタグのブロックや性的コンテンツにつながる用語の検索を推奨してしまうシステムの改修に取り組んでいるとのこと。

Instagramの内部統計によると、ユーザーが児童搾取に関連するコンテンツを見る頻度は1万件に1件未満だそうです。しかし、他の大きなSNSと比較して、Instagramは特に小児性愛者ネットワークにとって重要視されていることが指摘されています。

インターネット観測所の調査では、Twitterでは児童の性的コンテンツを販売するとうたっているアカウントが128件見つかったものの、これはInstagramで見つかった数の3分の1未満でした。また、Twitterではこれらのアカウントが他のユーザーに推奨されにくく、アカウントの削除も迅速だったとのことです。

若者に人気のあるプラットフォームの中でも、Snapchatは主にダイレクトメッセージングに使用されるため、小児性愛者ネットワークの構築には役立ちません。また、TikTokでは未成年者の性的コンテンツは急増していないようだとインターネット観測所は報告しています。

インターネット観測所のチーフテクノロジストでありMetaの元従業員のデヴィッド・ティール氏は、「Instagramの問題は、コンテンツの発見機能やトピックの推奨方法、プラットフォームが検索やアカウント間のリンクにどれほど依存しているかに起因しています」「急速に成長するものの安全性を保つにはガードレールの設置が必要ですが、Instagramはそうしていません」と述べました。