MicrosoftがリベンジポルノやフェイクポルノをBingの検索結果からブロック、Facebook・Instagram・TikTok・Snapchat・Reddit・Pornhub・OnlyFansに続いてStopNCIIのハッシュデータベースを活用

Microsoftが公開許可のない性的描写がある画像(NCII)からサービスと個人を保護するための最新情報を公開しました。

An update on our approach to tackling intimate image abuse - Microsoft On the Issues
https://blogs.microsoft.com/on-the-issues/2024/09/05/an-update-on-our-approach-to-tackling-intimate-image-abuse/

Microsoft removes revenge porn from Bing search using new tool
https://www.bleepingcomputer.com/news/security/microsoft-removes-revenge-porn-from-bing-search-using-new-tool/

Microsoft joins coalition to scrub revenge and deepfake porn from Bing
https://www.engadget.com/big-tech/microsoft-joins-coalition-to-scrub-revenge-and-deepfake-porn-from-bing-195316677.html

Microsoft gives deepfake porn victims a tool to scrub images from Bing search | TechCrunch
https://techcrunch.com/2024/09/05/microsoft-gives-deepfake-porn-victims-a-tool-to-scrub-images-from-bing-search/

Microsoftは2015年以来、NCIIがインターネット上で共有された場合に生じる評判・感情・その他の壊滅的な影響を認識してきました。しかし、テクノロジーの進化によりリアルな合成画像である「ディープフェイク」が問題になったり、生成AIの登場によりディープフェイクがより簡単に作成できるようになったりと、NCIIのおよぼす影響はより深刻かつ複雑になっています。NCIIの代表例がリベンジポルノや、ディープフェイクで作成されたポルノ画像であるフェイクポルノです。

クラスメイトのヌード写真をネット上で公開した男子高校生に出頭命令 - GIGAZINE

by Miles Cave

「フェイクポルノはリベンジポルノよりもダメージが大きい」と弁護士が指摘 - GIGAZINE

そこで、Microsoftは女性と子どもをオンライン上での性的搾取から守ることに重点を置いた、アメリカ人をディープフェイクによる虐待から守るための政策ホワイトペーパーを2024年7月30日に公開しています。

Microsoftはこの取り組みの一環として、国際慈善団体SWGfLの一部であるリベンジポルノヘルプラインによって運営されているStopNCIIとの提携を発表しました。StopNCIIは自分のプライベートな画像が同意なくオンライン上で共有されることから身を守るために使用できるプラットフォームで、ユーザーは自分の画像(合成画像を含む)をデバイスからアップロードすることなく、画像の「ハッシュ」またはデジタルフィンガープリントを作成することができます。このハッシュデータはさまざまな業界パートナーが利用しており、Facebook・TikTok・Reddit・Pornhub・Instagram・OnlyFans・SnapchatなどがNCIIの検出に利用しているそうです。

MicrosoftはStopNCIIと提携することで、Bingの画像検索結果に該当画像が表示されないようにするために、StopNCIIのデータベースを試験的に利用すると発表。なお、Microsoftは2024年8月末時点でStopNCIIのデータベースを頼りに26万8899枚の画像を削除したことを明かしています。

加えて、Microsoftは基本的権利を尊重しながら、違法で有害なオンラインコンテンツからユーザーを保護する責任があるとして、リスクに見合ったアプローチを採用することで、複数のサービスでNCII撲滅といつ目標を達成するべく努めていると説明しました。Microsoftは消費者向けサービス全体で、本人の許可なくNCIIを共有または作成することを許可していません。これには、テクノロジーを使用して作成または変更されたフォトリアリスティックなNCIIコンテンツも含まれます。Microsoftは「当社のサービスでNCIIを配布することは許可していません。また、NCIIを称賛、支持、要求するコンテンツも許可していません」と説明しました。

また、MicrosoftはNCIIを共有または公開することに対する脅迫も許可しないと明言しています。これには、NCIIを公開しないことと引き換えに、金銭・画像・その他貴重なものを要求することや脅迫も含まれるそうです。この包括的なポリシーに加えて、Microsoft Storeなど、関連プラットフォームでもNCII拡散防止のためのカスタマイズされた禁止事項を設けると説明しています。

他にも、Microsoftは世界規模で直接報告されたコンテンツや、NGOやその他のパートナーから違反コンテンツとして報告されたコンテンツを引き続き削除すると説明しています。また、ユーザーはMicrosoftの集中報告ポータルを通じ、NCIIの削除を要求できます。ただし、集中報告ポータルから報告できるNCIIは18歳以上を対象としたものであるため、18歳未満を対象としたコンテンツは「児童性的搾取コンテンツ」として別途報告する必要があるそうです。

Digital Safety | Report a concern
https://www.microsoft.com/en-us/DigitalSafety/report-a-concern