Instagramで「見たくもない全裸写真」をフィルタリングする機能がテスト中

Instagramが、メッセージにヌード写真の可能性がある画像が添付されているかどうかをチェックする機能のテストをしていることが分かりました。これにより、全裸写真を送りつけるような不快な嫌がらせに対する保護機能が実現される可能性があると報じられています。

Instagram’s finally working on protecting users from unsolicited nude photos - The Verge
https://www.theverge.com/2022/9/21/23365079/instagram-meta-cyberflashing

今回、Instagramで試験中の機能を発見したのは、リークやリバースエンジニアリングで有名な開発者のアレッサンドロ・パルッツィ氏です。同氏はTwitterで、「Nudity protection(ヌード保護)」機能について説明しているInstagramアプリの画面とおぼしきスクリーンショットを公開しました。

パルッツィ氏が投稿した画像によると、Nudity protectionは端末のテクノロジーでチャットに含まれる画像がヌード写真かどうかをチェックし、ヌード写真の可能性がある場合はぼかしかモザイクなどで見えなくする機能になるとのこと。この「テクノロジー」とは、AIを使ってヌードを検知するiOSの機能のことを指しています。

iPhone上のヌードに関するメッセージをスキャンする機能が追加、プライバシーを侵害せず子どもを保護 - GIGAZINE

写真のチェックがiOSの機能で行われるため、Instagramは写真にはアクセスしないことが強調されています。また、この機能は設定からいつでもオンとオフの切り替えが可能で、オンの状態でもユーザーは写真を見るか見ないかを選択できるとのことです。

Instagramを運営しているMetaは、IT系ニュースサイトのThe Vergeに対し、今回リークされた画像は開発中の機能のものであることを認めました。Metaによると、この機能はまだ開発の初期段階ですが、実現すればヌード写真などの不快なコンテンツを含むダイレクトメッセージを自動的にフィルタリングできるようになるとされています。

Metaの広報担当者であるリズ・フェルナンデス氏は、開発中の新機能について「私たちは専門家と密接に協力し、これらの新機能により人々のプライバシーを保護しつつ、ユーザーが受信するメッセージをコントロールできるようにすることを目指しています」とコメントしました。

伝えられるところによると、Instagramの既存の嫌がらせ対策では、女性の有名人に送信される悪意ある画像の90％に対応できず、「b*tch(ビッチ)」といった罵倒語ですら完全には除去できないとのこと。また、35歳未満の女性の33％がオンラインでセクハラを受けたことがあるとの調査結果もあります。そのため、不快な画像などによる嫌がらせを未然に防ぐ新機能の実現が求められています。