AIがAVの顔面部分に有名人を合成する「フェイクポルノ」を有名ポルノサイトのPornhubが削除

人工知能(AI)を用い、有名女優やゲームキャラクター、果てはYouTuberやコスプレイヤーといったネット上のちょっとした有名人の「偽の」ポルノ映像を作り出してしまうという「フェイクポルノ(Deepfakes)」が2017年末から猛威を振るっています。海外掲示板のreddit上では18歳未満閲覧禁止なサブレディット「Deepfakes」上で多数のフェイクポルノが出回っているのですが、作成した動画をアップロードするためのプラットフォームとして使われてきた「Pornhub」がフェイクポルノを削除することを発表しています。

Pornhub Is Banning AI-Generated Fake Porn Videos, Says They're Nonconsensual - Motherboard
https://motherboard.vice.com/en_us/article/zmwvdw/pornhub-bans-deepfakes

Pornhub is the latest platform to ban AI-generated ‘deepfakes’ porn - The Verge
https://www.theverge.com/2018/2/6/16980920/pornhub-bans-deepfakes-fake-ai-celebrity-porn-video

任意の顔と体を組み合わせることで、著名人の偽のポルノ映像「フェイクポルノ」が作り出されています。フェイクポルノは著作権違反や名誉棄損に繋がる可能性がありますが、法的に曖昧な領域に存在するとのこと。フェイクポルノについて、海外メディアのThe Vergeは「Photoshopを使った合成画像の格段に洗練されたバージョン」もしくは「ハリウッドで行われるデジタル撮影の民主化版」と表現しています。

実際にどのようなものが作り出されているのかは以下の記事を見ればわかります。

AI製「有名女優のポルノ」が爆増 - GIGAZINE

AIを使ってAV女優の顔部分に有名女優やゲームキャラクターを合成する「フェイクポルノ」が急増中、YouTuberやゲーム配信者など「インターネット上の有名人」はターゲットにされる可能性アリ - GIGAZINE

作成したフェイクポルノを共有するための手段として、画像共有サイトや動画ストリーミングサービスが利用されているのですが、中にはいちはやくフェイクポルノの削除をスタートしたGIF画像共有サイトのGfycatやゲーマー向けのコミュニケーションサービスDiscordなども存在します。

これらのサービスに続き、世界最大級のポルノサイトであるPornhubが、非コンセンサスなコンテンツとして「リベンジポルノ、deepfakes、同意を得ずに公開されたもの」を挙げ、フェイクポルノを削除する方針であることを明確にしました。

画像や動画を共有するためのプラットフォーム上での規制が始まっているフェイクポルノですが、reddit上にはフェイクポルノ関連のスレッドが乱立しており、削除が明言されたPornhub上でも「deepfakes」と検索すればいまだに数十個のフェイクポルノが見つかるそうなので、完全に削除するには険しい道のりが待っていると言えそうです。