Metaがオンラインに投稿された未成年者の性的な画像を削除するための新しいサービス「Take It Down」を発表

18歳未満のときに撮影されたヌード、または性的に露骨な画像や動画がオンラインで出回っている場合に、それを削除または拡散阻止するのに役立つ無料のサービス「Take it Down」をMetaが全米行方不明・被搾取児童センター(NCMEC)と共同で創設しました。

Take It Down
https://takeitdown.ncmec.org/

New Updates to Help Prevent the Spread of Young People’s Intimate Images Online | Meta
https://about.fb.com/news/2023/02/helping-prevent-the-spread-of-young-peoples-intimate-images-online/

NCMEC Launches New Service That Can Help You “Take It Down”
https://www.missingkids.org/content/ncmec/en/blog/2023/ncmec-launches-new-service-that-can-help-you-take-it-down.html

Take It Downは、若者の性的なコンテンツの拡散防止に役立つサービスです。利用者が18歳未満の時に撮影されたコンテンツを手順に従って提出すると、Take it Downはそのコンテンツに特定のハッシュ値を割り当て、ハッシュ値を元にオンラインで拡散されたコンテンツと照合し、SNSなどのプラットフォームと協力してコンテンツの削除または拡散防止手続きを行います。

記事作成時点で、Take it Downに協力しているプラットフォームはFacebookとInstagram、OnlyFans、Yubo、Pornhubです。このプラットフォームでハッシュ値と一致する画像または動画が検出された場合、プラットフォームはコンテンツの拡散を制限する措置を取ることができます。

利用者が提出したコンテンツはデバイスに残り、ハッシュ値のみがリストに追加されるため、コンテンツを直接誰かが確認することはできません。Take it Downは世界中の誰でも無料で利用でき、現在18歳以上であったとしても、18歳未満の時に撮影されたコンテンツを所持している場合は同様に利用可能です。

Metaは「親密な画像の投稿やセクストーション行為など、若者を搾取するようなコンテンツや行動はMetaでは許されません。このようなコンテンツや、青少年を利用しようとする不審なアカウントとの不適切なやりとりを防止するよう取り組んでいます」と述べました。

また、MetaはInstagramに不審な大人がティーンエイジャーと交流することを難しくする新機能を導入しています。この機能により、18歳以上の一部のユーザーは「投稿に『いいね！』を押した人のリスト」や「アカウントのフォローおよびフォロワーリスト」から、18歳未満のユーザーを見つけられなくなりました。また、もし不審な大人がティーンエイジャーのアカウントをフォローしていた場合、そのティーンエイジャーにInstagramが通知を送り、フォロワーを確認して削除するよう促します。

また、ティーンエイジャーには自分のプライバシー設定を確認し、制限するよう通知されます。ティーンエイジャーの投稿に誰かがコメントした場合やティーンエイジャーを他の投稿でタグ付け／メンションした場合、あるいはリールやガイドにティーンエイジャーのコンテンツが含まれる場合、ティーンエイジャーは自分のプライバシー設定を確認する通知を受け取り、他人とのやりとりを停止するオプションが与えられます。

Metaは「保護者向けの監視ツールや、ティーンエイジャーが年齢に応じたオンライン体験をできるようにする年齢確認技術など、当社のアプリケーション全体でティーンエイジャーと家族の安全をサポートする30以上のツールを開発してきました。また、親密な画像を撮影することで起こりうる被害や、そのようなコンテンツの拡散を阻止したい場合に役立つその他の方法について、ティーンエイジャーに伝えるためのリソースも提供しています」と述べ、子供の安全を守る取り組みについて強調しました。