Redditが「職場で閲覧しても安全」だったディープフェイク関連コミュニティをBAN

海外掲示板のRedditが、Safe For Work(SFW：職場で閲覧しても安全)なディープフェイク関連コミュニティをBANしました。ただし、BANの原因はコミュニティ内でやり取りされてきたディープフェイク以外にあるようです。

Reddit Bans 'SFW' Deepfake Community - Unite.AI
https://www.unite.ai/reddit-bans-sfw-deepfake-community/

RedditがSFWなディープフェイクコンテンツを取り扱うコミュニティである「r/deepfakesfw」をBANしました。同コミュニティは、2018年にディープフェイクがAIポルノ(フェイクポルノ)として流行した際、Redditがポルノ関連のディープフェイクコミュニティをBANしたため作成された「RedditのBANを回避するためのポルノとは無関係のディープフェイクコミュニティ」のひとつだそうです。

AI製「有名女優のポルノ」が爆増 - GIGAZINE

Redditは「r/deepfakesfw」のBANについて詳細な説明は行っていませんが、コミュニティにアクセスすると「このサブレディットは、Redditのポルノ禁止規則に違反しているためBANされました」とだけ書かれています。

「r/deepfakesfw」がBANされた理由について、海外メディアのUnite.AIは「露骨な内容を偽造したり、本物にそっくりなポルノをディープフェイクで作ることを勧誘したりするような投稿は、Redditのルールに違反しており、こういった本来コミュニティ上でやり取りされるはずではなかった投稿がBANの原因となった」と記しています。

Unite.AIによると、「r/deepfakesfw」上で禁止されている「ディープフェイクで作られたポルノ画像」を求めるような投稿をしたユーザーは、「r/deepfakesfw」以外のコミュニティでも同様の投稿をしているそうです。Reddit上には「r/deepfakesfw」以外にもディープフェイク関連のサブレディットが複数存在するため、Unite.AIは「他のディープフェイク関連サブレディットがReddit上にまだ残っているのは、スレッドのモデレーターの迅速な対応や勤勉さによるところである可能性があります」と記しました。

ただし、他のサブレディットがBANされていない理由が「優秀なモデレーターの努力」によるところではない場合、他のディープフェイク関連コミュニティもすぐにBANされてしまう可能性があります。実際、Reddit上に存在するサブレディットには、本来存在するはずのない「NSFW(職場での閲覧注意)」タグが付けられたものが複数散見されるそうです。

「r/deepfakesfw」を含むSFWディープフェイクコミュニティ上では、ほとんどの場合、人気の高い映画や古い映画のワンシーンをディープフェイクを使って別の俳優にすり替えるようなコンテンツを楽しんでいるそうです。そのため、Unite.AIは「こういったコンテンツはAIを用いた無害な遊びであり、正しいSFWコンテンツであるはずです」と指摘しました。

なお、Redditだけでなく、Googleも人気のリソースプラットフォームである「Colab」上でディープフェイクを作成することを禁止しており、ディープフェイクに対する風当たりは一層強まっているようです。

Googleがディープフェイク作成にリソースプラットフォーム「Colab」を利用することをひそかに禁止 - GIGAZINE