AI製のディープフェイクポルノ動画がGoogle検索でヒットするサイトで売買されている、有名人だけでなく一般人も標的に

高精度な画像合成AIの登場によって浮上した問題の1つが、他人の顔を無断で使用するディープフェイクポルノです。NBCニュースが、「Google検索で簡単に見つけられるウェブサイトに大量のディープフェイク動画が投稿されており、有名人だけでなく一般人を標的にしたディープフェイクの作成を請け負うビジネスも存在する」と報じています。

The deepfake AI porn industry is operating in plain sight
https://www.nbcnews.com/tech/internet/deepfake-porn-ai-mr-deep-fake-economy-google-visa-mastercard-download-rcna75071

AIを用いて写真や動画の一部を別の素材とすり替えるディープフェイクは、AI技術の発達に伴って深刻な問題となっています。一般のメディアでは著名な俳優や政治家のディープフェイクが話題となりがちですが、最も広く使われているのはポルノ動画の顔を別人のものとすり替える「ディープフェイクポルノ」です。

AIによって合成されたメディアを監視するオランダの企業・Sensityによると、ディープフェイクの96％が性的なものであり、コンテンツの生成に同意していない女性の顔を用いたものだとのこと。NBCニュースは、ディープフェイクポルノのクリエイターは有名人の顔を用いたポルノ動画を投稿・販売しているほか、ユーザーの要望に応じて一般人のディープフェイクポルノ作成も請け負っていると報じています。

ディープフェイクポルノを取り巻く経済はほとんど表面化しませんが、2023年2月には有名配信者の男性が「女性配信者のディープフェイクポルノが公開されているウェブサイト」を配信に載せてしまい、一部の視聴者が女性配信者に嫌がらせを行う事態に発展しました。この事件の後、Google検索では「deepfake porn(ディープフェイクポルノ)」の検索トラフィックが急増したことがわかっています。

男性ストリーマーが女性ストリーマーのディープフェイクをうっかり配信してしまい涙ながらに謝罪 - GIGAZINE

Googleで「deep fake porn」と検索すると上位にヒットする「MrDeepFakes」というウェブサイトは、ディープフェイクポルノの世界で最も著名な投稿プラットフォームです。このウェブサイトは無料で視聴できる数千件ものディープフェイクポルノ動画であふれており、2023年2月のアップロード件数は過去最高の1400件を超え、月間訪問者数は1700万人に達するとのこと。

MrDeepFakesに投稿されるディープフェイクポルノ動画は数分ほどのものが多く、より長時間のポルノ動画の無料体験版として公開されています。クリエイターは動画の完全版を見たいユーザーを「Fan-Topia」という別のアダルトコンテンツプラットフォームに誘導し、ディープフェイクポルノ動画のライブラリへのアクセス権を販売しています。有料版の価格は5ドル(約650円)ほどで、購入はオランダのVerotelという決済サービスを利用して行われ、VISAやMasterCardといったクレジットカードも使えるそうです。

VISAやMasterCardは以前、ポルノサイトのPornhubに児童ポルノやリベンジポルノが投稿されているとして決済停止を決定しましたが、Fan-Topiaでは引き続き使用可能だとのこと。NBCニュースの問い合わせに対し、VISAとMasterCardは返答しませんでした。

Pornhubに対するVisaとMastercardの決済停止処分は「事実上の検閲」にあたるという指摘、決済停止によるセックスワーカーの困窮を懸念する声も - GIGAZINE

ディープフェイクポルノを取り巻く経済は、近年ますます成長しています。NBCニュースによると、一部のディープフェイクポルノクリエイターはMrDeepFakesのDiscordフォーラムで、コンテンツ作成をサポートする役職を有償で募集しているそうです。

MrDeepFakesやFan-Topiaで最もよく取り上げられるディープフェイクポルノは、女優のエマ・ワトソン氏とスカーレット・ヨハンソン氏のものです。また、一部のディープフェイクポルノクリエイターはDiscordのチャットルームで支援者からの要望に応じ、有名人ではない一般人のディープフェイクポルノを作成しているとのこと。あるクリエイターは、Instagramのフォロワー数が200万人未満の女性のディープフェイクポルノを、65ドル(約8500円)で作成すると宣伝していました。

この件についてNBCニュースがDiscordに問い合わせたところ、チャットルームは「明らかな同意なしに他人を性的にしたり、性的におとしめたりするコンテンツまたは行動」に関するポリシーに違反したとして削除されたそうです。チャットルームの運営者はNBCニュースの問い合わせに答えませんでした。

DiscordはNBCニュースに対し、「非良心的なディープフェイクを宣伝または共有すること」を禁止していると主張。「Discordのセーフティチームはこのようなコンテンツを認識した場合、コンテンツの削除、ユーザーの追放、サーバーのシャットダウンといった措置を執ります」と述べました。

自身もディープフェイクポルノの被害者であるオーストラリアの弁護士・Noelle Martin氏は、有名人ではない人々も合意のないディープフェイクポルノの被害者になる事例が増えているとしています。「ますます多くの人々が標的にされています」とMartin氏は述べ、今後ますます一般人の被害者が増えるだろうと予想しています。

Martin氏は、同意していない性的コンテンツを公開するMrDeepFakesのようなウェブサイトが閉鎖されず、Google検索でヒットする状態について、「これが周知されているにもかかわらず許可されているということは、この世のすべての規制当局・法執行機関・システム全体がこの状態を許可しているという非難につながります」と述べ、ディープフェイクポルノに対する法的規制が必要だと訴えました。