Facebookがユーザーに「あなたの知り合いが過激派になりつつあることを心配していませんか？」と注意を促す機能をテスト

Facebookは暴動を扇動する白人至上主義者のアカウントを削除したり、陰謀論者グループ「QAnon」の利用を全面的に禁止したりと、過激な活動を行う団体や個人に対し目を光らせています。そんな中、Facebookが新たに「あなたの知り合いが過激派になりつつあることを心配していませんか？」というポップアップ通知を表示させる機能をテストしていることが明らかになりました。

Facebook warns users they may have been exposed to 'harmful' extremists | Fox News
https://www.foxnews.com/media/facebook-warns-users-have-been-exposed-harmful-extremists

Facebook Prods Users Who've Been Exposed to 'Extremist Content' to Get Help | PCMag
https://www.pcmag.com/news/facebook-prods-users-whove-been-exposed-to-extremist-content-to-get-help

2021年7月1日、複数のユーザーがFacebookで「あなたの知り合いが過激派になりつつあることを心配していませんか？」と表示された通知を受け取ったと報告しました。通知は「私たちはFacebookで過激主義を防止することに注意を払っています。あなたと同じ状況にある人は秘密厳守のサポートを受けています」と続き、表示された「サポートを受ける」というリンクをクリックすると「憎しみを捨てて非暴力的な方法で問題を解決したい人をサポートする非営利団体」と説明された「Life After Hate」のページに移動したとのこと。

さらに、別のユーザーは「あなたは最近有害な過激派のコンテンツにさらされた可能性があります」という通知を受け取ったとも報告しています。

この件に関し海外メディアのFox NewsがFacebookに問い合わせたところ、同社は「テストを行っています」と回答。「このテストは過激派コンテンツに関与したか、さらされたか、あるいはさらされている人を知っている可能性のあるユーザーにFacebookのリソースとサポートを提供するための、私たちの総合的な活動の一部です」「私たちはNGOや専門家と提携し、将来的により多くの情報を共有したいと思っています」と述べました。

しかし、Facebookは「コンテンツをどのように過激派、あるいは有害だと判断するのか？」との質問には回答しませんでした。通知を受け取ったユーザーの1人は「極端な監視社会に住んでいるように感じます」と述べており、通知を受けたFacebookユーザーの中には反感を覚えた人も見られたとのことです。