Mastodonに児童性的虐待コンテンツがあふれているとスタンフォード大学インターネット観測所が指摘

分散型SNS・Mastodonで、上位のインスタンスにおいて児童性的虐待コンテンツ(CSAM)が横行していることが、スタンフォード大学インターネット観測所の調べによって明らかになりました。

Addressing Child Exploitation on Federated Social Media | FSI
https://cyber.fsi.stanford.edu/io/news/addressing-child-exploitation-federated-social-media

Child Safety on Federated Social Media | Stanford Digital Repository
https://doi.org/10.25740/vb515nd6874

Twitter rival Mastodon rife with child-abuse material, study finds - The Washington Post
https://www.washingtonpost.com/politics/2023/07/24/twitter-rival-mastodon-rife-with-child-abuse-material-study-finds/

Stanford researchers find Mastodon has a massive child abuse material problem - The Verge
https://www.theverge.com/2023/7/24/23806093/mastodon-csam-study-decentralized-network

研究者らはMastodonで最も人気のある25のインスタンスで2日間にわたる調査を実施。その結果、調査開始からわずか5分で最初のCSAMが検出され、最終的に既知のもの112件を含むCSAM600以上を検出しました。これらのCSAMはいずれも、Googleのセーフサーチにより、高い信頼度で「明確にCSAMである」と特定されました。

研究に携わったデビット・ティール氏は、Mastodonで行った2日間の調査で得たPhotoDNAのヒット数は、これまでに行ってきたあらゆる種類のソーシャルメディア分析で得てきたものよりも多く、また、過去に得たものと類似性があまりないことを明らかにしました。

ティール氏は「中央集権的なSNSにおいて、子どもの安全に関する懸念に対処するためのツールが欠如した結果の部分が大きい」と述べています。

なお、2023年7月初旬にはインスタンスの1つ「mastodon.xyz」が、投稿されたCSAMが原因で一時的に停止に追い込まれた事例があります。

Suspension de mastodon.xyz le 5 juillet 2023 - Le blog de Kinrar
https://thekinrar.fr/posts/xyz-suspension/

mastodon.xyzは2017年4月1日に誕生したインスタンスで、登録者数約2万4000人のほとんどは2019年以前に登録したユーザーで、モデレーターのkinrar氏がボットやスパムアカウントへの対応に苦労したため、新規登録は長らく停止されていました。

2022年11月に新規登録を再開すると、モデレーション作業は週数件から週十数件に増加していましたが、kinrar氏は空き時間に対応を行っていたため、報告があってから対応までには時間がかかることがありました。

2023年6月、ホスティングプロバイダーのHetznerから不正行為への対応を求めるメールがkinrar氏のもとに届きます。これ自体は一般的な手順で、問題のコンテンツはAI生成による「性的な文脈にある児童の画像」でした。kinrar氏は同じアカウントへの報告を他にも受け取っていましたが、まだ処理をしていなかったため、改めて問題のアカウントを削除しました。しかし、レジストリの方が迅速に反応していたため、kinrar氏が連絡を取って対応してもらうまでの約24時間にわたり、インスタンスは停止する事態になったとのこと。

研究者らは、分散型SNSではPhotoDNAの統合やCyber Tiplineレポートに加えて、モデレーター向けにより堅牢なツールを採用することを提案しているそうです。