AIが作る顔合成ポルノ「フェイクポルノ」がついに誕生の地Redditでも禁止に

by mooncoffeedn

既存のポルノと有名女優の顔をAIで合成させる「フェイクポルノ」は2017年12月ごろから爆破的な広まりを見せていますが、「リベンジポルノに利用される恐れがある」といった理由から有名ポルノサイトのPornhubやTwitterなどでの投稿が禁止されています。そんな中、フェイクポルノ誕生の地であり、コミュニティの中心となっている海外掲示板・Redditがフェイクポルノの投稿を禁止する方針を発表しました。

Reddit bans ‘deepfakes’ AI porn communities - The Verge
https://www.theverge.com/2018/2/7/16982046/reddit-deepfakes-ai-celebrity-face-swap-porn-community-ban

AIを使って既存のポルノと有名女優などの顔を合成し、実際にはポルノに出演していないはずの人をポルノ女優のように見せる「フェイクポルノ」は2017年末に突如として登場し、わずか2カ月ほどの間で爆発的に広まりを見せています。

実際にフェイクポルノがどんなものなのかは以下の記事から読むことが可能です。

AI製「有名女優のポルノ」が爆増 - GIGAZINE

AIを使ってAV女優の顔部分に有名女優やゲームキャラクターを合成する「フェイクポルノ」が急増中、YouTuberやゲーム配信者など「インターネット上の有名人」はターゲットにされる可能性アリ - GIGAZINE

フェイクポルノは「deepfakes」と名乗るユーザーが海外掲示板のRedditに投稿したことで存在が知られ、その後、deepfakes氏が誰でもフェイクポルノを作れるアプリを公開したことで、多くの人が作ったフェイクポルノをRedditに投稿していきました。2018年2月時点でコミュニティの参加者は9万人を超えているそうです。

しかし、フェイクポルノ流行の発端になったRedditは、新たにコミュニティルールを公開し、フェイクポルノの投稿を禁止していく方針を明らかにしました。以下がRedditの公開した新ルール。

Do Not Post Involuntary Pornography | Reddit Help
https://www.reddithelp.com/en/categories/rules-reporting/account-and-community-restrictions/do-not-post-involuntary-pornography

Redditの新ルールは、ヌードや性的な行為を行う人の描写がある画像およびムービーを、本人の許可なしに投稿する行為を禁ずるもの。そして、このコンテンツには「描写がフェイクであるもの」を含むとのこと。また、体の個人的な部分を映したムービーは着衣の状態であっても、本人の許可がなかったり、わいせつな説明がついているものは禁止となっています。加えて、「『うり二つ』なポルノを求めたり、特定のフェイク・コンテンツを目的とした画像およびムービー投稿をしないでください」とも記されました。

ただし、フェイクポルノを作れるようにするアプリ「Fake App」はReddit上に残されており、フェイクポルノに関連する全てのコンテンツが禁じられるというわけではないようです。このアプリからはフェイクポルノはもちろんのこと、あらゆる人の顔をニコラス・ケイジにしてしまう、「フェイクニコラス」なども作られています。


The Vergeによると、フェイクポルノはアメリカの法律にも抵触しておらず、Redditの対応は「合法のコンテンツを禁ずる」というものにあたります。Redditの運営側は「Redditは誰でも歓迎する開かれたプラットフォームを作れるよう励んでおり、『ユーザーは真の会話を作り出す環境を維持してくれる』と信じています。2018年2月7日に私たちはサイト全体にわたるポリシーとして、『不本意のポルノグラフィー』と『少数派に影響する挑発的なコンテンツ』の2つをアップデートしました。2つのルールはこれまで1つのルールとして記載されたものです。これらのコンテンツを投稿したユーザーや、コンテンツを中心に置いたコミュニティーはウェブサイトから締め出されるでしょう」とコメントを発表しています。