ネットサービス

画像生成AIで18禁エロ画像を作成することに情熱を燃やす集団「Unstable Diffusion」とは?


2022年8月に高精度な画像生成AI「Stable Diffusion」が公開された途端、一部のユーザーはポルノ画像の生成に利用する方法を探り始めました。Stable Diffusionを利用した高精度な18禁ポルノ画像の生成を目指すコミュニティ「Unstable Diffusion」について、テクノロジー系メディアのTechCrunchが報じています。

Meet Unstable Diffusion, the group trying to monetize AI porn generators | TechCrunch
https://techcrunch.com/2022/11/17/meet-unstable-diffusion-the-group-trying-to-monetize-ai-porn-generators/

AI開発スタートアップのStability AIによってStable Diffusionがリリースされると、すぐに海外掲示板のRedditや4chanにいる一部のユーザーたちは、ヌード画像や有名人のフェイクヌードを生成し始めました。しかし、RedditはAIポルノ専用の板を閉鎖し、一部のイラスト投稿サイトがAI生成アートの投稿禁止を明記し始めたことを受けて、AIポルノ生成フォーラムはDiscordなどに移行しているとのこと。


AIポルノ生成フォーラムの中でも圧倒的に有力なUnstable Diffusionというフォーラムは、単に高品質のポルノ画像を生成するだけでなく、ポルノ生成AIを利用したビジネス構築も目指しています。アーティスト支援サイトのPatreonに開設された公式アカウントでは、3ドル(約420円)・10ドル(約1400円)・25ドル(約3500円)の特典付き支援プランが用意されており、記事作成時点では数百人のユーザーから月額2500ドル(約35万円)の資金を集めています。

Unstable DiffusionのメンバーであるArman Chaudhry氏は、「私たちはわずか2カ月で、多くのコンサルタントやボランティアのコミュニティモデレーターを抱える13人以上のチームに成長しました」「私たちはプロのアーティストや企業が恩恵を受けられるツールを作成するため、使いやすさやユーザーエクスペリエンス、表現力に革新をもたらす機会を見ています」と述べています。


Unstable Diffusionは2022年8月にRedditで発足しましたが、後にDiscordへと移行し、記事作成時点のDiscordメンバーは約4万8000人です。Discordサーバーの概要欄には、「Unstable DiffusionはAIが生成したNSFWの作成と共有専用のサーバーです」「私たちはエロ画像を作ろうとするすべての人に、リソースと相互援助を提供することを目指します。私たちはあなたのAIジェネレーターを最大限活用するために設計されたプロンプトやアートワーク、ツールを共有します」と記されています。

当初のUnstable DiffusionはAI生成ポルノの共有や、画像生成AIのコンテンツフィルターを外す方法を調べる場として機能していました。ところが、すぐに数名のサーバー管理者が既存のオープンソース画像生成AIを利用し、ポルノ生成に特化した独自AIシステムの構築を模索し始めたとのこと。Stability AIは明らかな法律違反や他人への危害が認められる場合を除き、Stable Diffusionのカスタマイズについて自由放任主義のアプローチを採用しているため、Unstable Diffusionの取り組みに役立ったそうです。

ポルノ生成AIの構築において問題となったのが、Stable Diffusionのトレーニングに含まれるNSFW素材は全体のわずか2.9%であり、性的なコンテンツの生成に失敗することが多いという点でした。そこでUnstable Diffusionは、ボランティアを募ってStable Diffusionの調整に使うポルノデータセットを収集し、生成されるAIポルノの改善を進めています。

Unstable DiffusionのDiscordサーバーにはソフトエロなSFWチャンネル、二次元エロ画像専用のチャンネル、ケモナー向けのチャンネル、BDSMなどの嗜虐(しぎゃく)的な画像専用のチャンネルなどが用意されており、ユーザーはUnstable Diffusionのボットを使ってテーマに沿った画像を生成しているとのこと。Unstable Diffusionは記事作成時点までに430万枚を超える画像を生成したと主張しており、メンバー間で不定期に画像生成コンテストを開催してモデル改善に役立てているそうです。

また、Unstable Diffusionは児童ポルノやディープフェイク、過度の流血を伴ったコンテンツを禁止する「倫理的」なコミュニティになることを目指しており、ユーザーは利用規約に順守することを求められています。Chaudhry氏は、Unstable Diffusionのサーバーは特定の人物を指定した画像生成をブロックするフィルターを採用し、フルタイムのモデレーションチームを持っていると主張。「私たちのDiscordサーバーでは、SFW・NSFW共に架空で法にのっとった画像生成のみを認めています。プロフェッショナルツールやビジネスアプリについては、パートナーと共に協力し、ニーズやコミットメントに最も合致するモデレーションやフィルタリングルールを再検討していきます」と述べました。


Chaudhry氏がAIによる生成ポルノについて楽観的な見方を示す一方で、Unstable Diffusionのようなポルノ生成AIへの懸念も提起されています。モントリオールAI倫理研究所の創設者兼主任研究員であるAbhishek Gupta氏はTechCrunchへの電子メールで、APIによる画像生成フィルターはバイパスされる可能性があると指摘。Unstable Diffusionのようなサーバーは問題のあるコンテンツの集積場となり、悪意のあるユーザーが相互接続してスキルを高めることができるほか、コンテンツモデレーションに対する精神的負荷も大きくなると主張しています。

他の画像生成AIと同様、ポルノ生成AIの登場によって既存のアーティストや俳優の仕事が脅かされる危険もあります。AI画像生成のプロンプトにおいてよく用いられるGreg Rutkowski氏は、自身のスタイルがAIによって模倣されていることに不快感と危機感を覚えています。自身のスタイルを再現したイラストを生成するAIがリリースされてしまったHollie Mengert氏は、「もし事前に許諾を求められたら、私はイエスとは言わなかったでしょう」と述べました。

Chaudhry氏はUnstable Diffusionについて、芸術コミュニティに対してより公平になり、アーティストに還元する方法を模索していると主張しています。しかし、具体的なアーティストへの還元方法やトレーニングデータセットからの除外を求める方法などについては説明しなかったとのことです。

また、AIが生成するポルノ画像には、トレーニングデータに含まれるバイアスが反映されてしまうという問題もあります。トランスジェンダーの画家であるMilo Wissig氏は、2021年の時点で画像生成AIはトランスジェンダーのポルノ画像をうまく生成することができず、白人の異性愛者が主流のポルノでトレーニングされた画像生成AIには、人種や性的指向のバイアスが根付いていると指摘しています。

Chaudhry氏によると、Unstable Diffusionは将来的にAIを活用した幅広いコンテンツ生成をサポートする組織に進化し、さまざまなニーズに合わせたAIシステムの構築に役立つツールとリソースを提供するようになると考えています。この目標に向け、クラウドコンピューティングプロバイダーからの助成金を確保したり、クラウドファンディングサイトのKickstarterでキャンペーンを開始したりして、資金を集めているとのことです。

この記事のタイトルとURLをコピーする

・関連記事
画像生成AI「Stable Diffusion」の18禁セーフティフィルターを解除する方法 - GIGAZINE

ヌード画像をカスタムAIアルゴリズムで自動生成する「pornpen.ai」 - GIGAZINE

アーティストの権利侵害やポルノ生成などの問題も浮上する画像生成AI「Stable Diffusion」の仕組みとは? - GIGAZINE

画像生成AI「Stable Diffusion」がどのような仕組みでテキストから画像を生成するのかを詳しく図解 - GIGAZINE

「Stable Diffusion」のような画像生成AIに自分の顔写真が使われている可能性は決して低くないとの警告 - GIGAZINE

超高精度なイラストを生成できると話題の「NovelAI」は本家Stable Diffusionにどんな改善を加えたのか? - GIGAZINE

in ソフトウェア,   ネットサービス,   サイエンス, Posted by log1h_ik

You can read the machine translated English article here.