ディープフェイクポルノ作成サイトに「Google・Apple・LINEのアカウントでログインできる機能」が搭載されている

ユーザー登録が必要なウェブサービスの中には「Googleでログイン」「Appleでサインイン」といったボタンを設置してアカウントの作成を簡略化しているものが多くあります。これらのログインサービスは一定の基準を満たしたウェブサービスにのみ実装可能なはずなのですが、ディープフェイクポルノ作成サイトにも使用されていた例が発見されました。

Harmful “nudify” websites used Google, Apple, and Discord sign-on systems | Ars Technica
https://arstechnica.com/tech-policy/2024/08/harmful-nudify-websites-used-google-apple-and-discord-sign-on-systems/

ウェブサービスの中には、他社製サービスで使っているアカウント情報を用いてログインできる機能をしているものがあります。例えば、電子書籍サービス「BOOK WALKER」ではBOOK WALKERのアカウントを作成する代わりに「Google」「Apple」「ニコニコ」「LINE」「Yahoo! JAPAN」「dアカウント」「X」「Facebook」といったサービスのアカウントを用いてログインすることができます。

「外部サービスのアカウントでログインする機能」を実装する際には、GoogleやAppleといった外部サービスのルールに従う必要があります。例えば、Googleは「Googleでログイン」の実装者に対して利用規約ページやプライバシーポリシーページの設置を求めているほか、「Appleでサインイン」の「ガイドライン」にはポルノ関連サイトでの利用を禁止する条項が含まれています。

ところが、海外メディアのWIREDが調査した結果、多数のディープフェイクポルノ作成サイトに「外部サービスのアカウントでログインする機能」が実装されていることが判明しました。ログイン機能を提供しているサービスとディープフェイクポルノ作成サイトによる採用件数をまとめた表が以下。特に「Googleでログイン」の採用件数が多かったようです。

ログイン機能を提供していた企業はWIREDからの連絡を受けて当該ウェブサイトへのサービス提供を中止したとのこと。しかし、ダラム大学でオンライン上のポルノ関連規制などについて研究するクレア・マクグリン教授は「大手テクノロジー企業が対策に消極的なため、ヌードサイトや類似のサイトの成長が助長されています」「大手テクノロジー企業が最も基本的なモデレーションを実施していないことが懸念されています。大手テクノロジー企業が(ディープフェイクポルノ作成サイトによるサービス利用を)まったく気にしていないのは明らかです。もし気にしているのならば、アクセスを制限するための対策を講じていたはずです」と述べ、大手テクノロジー企業の対応を非難しています。