AIでポルノ画像を作成するプロジェクト「Unstable Diffusion」がKickstarterでの出資募集をブロックされる

画像生成AIの「Stable Diffusion」を使ってポルノコンテンツを作成するコミュニティ「Unstable Diffusion」が、クラウドファンディングサイト・Kickstarterのガイドライン変更に伴い、同サイトで行っていた出資を募るプロジェクトを停止されました。

Our Current Thinking on the Use of AI-Generated Image Software and AI Art
https://updates.kickstarter.com/ai-current-thinking/

Kickstarter shut down the campaign for AI porn group Unstable Diffusion amid changing guidelines | TechCrunch
https://techcrunch.com/2022/12/21/kickstarter-shut-down-the-campaign-for-ai-porn-group-unstable-diffusion-amid-changing-guidelines/

Unstable DiffusionはKickstarter上で出資を募っており、867人の支援者から740万円以上の資金を集めていました。この出資金額は目標額の約2倍です。しかし、2022年12月22日にUnstable DiffusionのプロジェクトはKickstarterにより停止されました。

Unstable Diffusion: Unrestricted AI Art Powered by the Crowd (Suspended) by Unstable Diffusion — Kickstarter
https://www.kickstarter.com/projects/unstablediffusion/unstable-diffusion-unrestricted-ai-art-powered-by-the-crowd

Unstable DiffusionのプロジェクトがKickstarterにより停止された理由は、KickstarterがAI画像生成ツールおよびAIが作成した画像に関するガイドラインを変更したためです。Kickstarterは2022年12月21日に「Kickstarterの多くのクリエイターは当然のことながら、クリエイティブコミュニティへの影響を懸念しているため、AIによって生成された画像の開発に関する我々の考えを共有したいと思います」と言及。

Kickstarterはコミュニティ諮問委員会に参加し、ソーシャルメディアを通じて同サービスへ寄せられるフィードバックを熟読したそうです。Kickstarterはフィードバックを参考にした理由を、「Kickstarterはクリエイティブな仕事とその背後にいる人間の側にいる必要があり、今後もそうあり続ける必要があるためです。我々はクリエイティブな仕事を成功させる手助けをするためにあります」と説明しています。

フィードバックをベースにKickstarterがAI画像生成ツールとAI生成画像を取り扱う上でポイントとして挙げたのが以下の2点。

・プロジェクトがアーティストの作品をコピーまたは模倣しているか否か
作品に単純な著作権の主張があるかどうかだけでなく、それがあまり明確ではない状況も評価する必要があります。例えば、他の人が所有または作成した画像がKickstarter上のプロジェクト上にはないものの、作品として提供される画像を作成するAIツールのトレーニングデータに含まれている場合などです。

・プロジェクトが特定のコミュニティを悪用したり誰かを危険にさらしたりするか
Kickstarterの規則は疎外されたグループに対する差別・偏見・不寛容を助長するプロジェクトを禁止しており、Kickstarterの健全性と完全性を保護するための決定を下すケースがあります。

この2点に抵触するとして、Unstable Diffusionのプロジェクトは停止されることになった模様。ただし、Kickstarterは「AI画像生成ツールは本当に新しいものであるため、我々はすべての回答を持っているというわけではありません。我々が現在行う決定が、将来行う決定とは異なる可能性もあるため、クリエイターやユーザーの皆さんと継続的に会話を行っていきたいと考えています」とも記しています。

そのため、KickstarterによるAI画像生成ツールに関するガイドライン変更を、テクノロジーメディアのTechCrunchは「Kickstarterはガイドラインの変更を意図的にあいまいに説明しています」と指摘しました。

なお、KickstarterがUnstable Diffusionのプロジェクトをブロックする前、一部のクリエイターからAI画像生成ツールがクリエイターのキャリアを脅かすという指摘があり、Twitter上では「KickstarterでUnstable Diffusionのプロジェクトを中止すべき」という声も上がっていました。

Twitter上で95万人のフォロワーを抱えるマンガ家のSarah Andersen氏は、「Unstable Diffusionのクラウドファンディングを許可したKickstarterは恥を知るべきだ。露骨な窃盗を許し、同意のないポルノなどの虐待的なコンテンツを作成できるツールに資金を提供しようとしています」とツイートしていました。

アーティストがAI画像生成ツールに対して危機感を抱いている理由のひとつとして挙げられるのが、Stable Diffusionが登場した当初に行われた、ダンジョンズ＆ドラゴンズの公式イラストレーターとして知られるGreg Rutkowski氏のイラストをStable Diffusionで模倣する試みです。Stable DiffusionはRutkowski氏の独特のタッチを見事に模倣していますが、Rutkowski氏は自身の作品がStable Diffusionのトレーニングに使用されることに同意していませんでした。

なお、プロジェクトを停止されてしまったUnstable Diffusionは、Kickstarterで出資を募る際に目標金額の2万5000ドル(約330万円)を集めることができれば約2500万件のアニメとコスプレの画像、約2500万件のアート画像、約2500万件の写真で構成される高画質な画像データベースで新しいモデルをトレーニングできるようになると言及していました。

また、Unstable DiffusionはTechCrunchに対して「これまで以上に強力で新しい芸術的なAIシステムの作成とリリースに向けて支援者が直接我々をサポートできるように、Unstable Diffusionは新しいウェブサイトをオープンしました。我々はすべてのAIアートを非合法化しようとするアーティストのロビー活動を阻止するための呼びかけに応えようとしています。後援者のサポートにより、ますます十分な資金と組織化されたロビー活動に挑戦することが可能になります」とコメント。さらに、ウェブサイト上で直接寄付を募っており、既に1万5000ドル(約200万円)を集めることに成功していることも明かしています。