2022年08月15日 16時00分ソフトウェア

まるで人間のアーティストが描いたような画像を生成するAIが「アーティストの権利を侵害している」と批判される

イギリスのロンドンとアメリカのロスアルトスを拠点とするスタートアップ・Stability AIが2022年8月10日、まるで人間のアーティストが描いたような高クオリティの画像を生み出せる画像生成AI「Stable Diffusion」を研究者向けにリリースしました。Stable Diffusionは間もなく一般公開も予定されていますが、人間のアーティストからは「アーティストの権利を侵害している」といった批判が寄せられています。

Stable Diffusion launch announcement — Stability.Ai
https://stability.ai/blog/stable-diffusion-announcement

Stable Diffusion draws controversy on Twitter from artists who say the AI infringes on copyrights
https://www.artificialconversation.com/p/stable-diffusion-draws-controversy

Stable Diffusionは、Stability AIやハイデルベルク大学などの研究者が共同開発した画像生成AIであり、「美しさ」を重視したデータセットのLAION Aestheticsで訓練されています。Stability AIの共同創設者であるEmad Mostaque氏は、「Stable Diffusionは何十億人もの人々が数秒以内に素晴らしいアートを作成できるようにする、テキストから画像を生成するモデルです。これは消費者向けのGPUで実行可能で、速度と品質のブレイクスルーです」と述べ、将来的にオープンソースで公開することを予定しています。

実際にStable Diffusionで生成した画像が以下。

ところが、映画「名探偵ピカチュウ」のクリーチャーデザインにも携わったコンセプトアーティストのRJ Palmer氏は、「新しいAI画像ジェネレーターは、100%人間が作ったように見えるアートを作成できるようです。アーティストとして、私は非常に心配しています」と述べ、Stable Diffusionがアーティストの権利を侵害していると批判しました。

A new AI image generator appears to be capable of making art that looks 100% human made. As an artist I am extremely concerned. pic.twitter.com/JUSW0x8Woa
— RJ Palmer (@arvalis)

Palmer氏が問題視しているのは、Stable Diffusionが「明らかに現在活動中のアーティストで訓練されている」という点です。実際にPalmer氏が例示したStable Diffusion製の画像を見ると、右下に四角い枠と崩れた文字のようなものが確認できます。これは訓練した画像に含まれていた「アーティストのロゴ」をAIが再構成しようとした痕跡だとのこと。「このAIは私たちの仕事を欲しがっており、積極的な反アーティストです」「これはStable Diffusionと呼ばれていますが、アーティストを保護する手段は整っていないようです。これはひどい」と述べています。

What makes this AI different is that it's explicitly trained on current working artists. You can see below that the AI generated image(left) even tried to recreate the artist's logo of the artist it ripped off.

This thing wants our jobs, its actively anti-artist. pic.twitter.com/4zXDeaIUzw
— RJ Palmer (@arvalis)

Palmer氏によると「Stable Diffusionで模倣できるスタイル」として、数百人もの実在するアーティストが挙げられていたとのこと。

Here is a collection of relatively modern or currently working artists that they advertise as styles to steal on their site(there are hundreds of others). This is just gross. pic.twitter.com/LLcl7dR9IN
— RJ Palmer (@arvalis)

また、テクノロジー系メディアのTechCrunchは「Stable Diffusionは著名人の顔を使ったフェイク画像や性的な画像も生成できる」と警鐘を鳴らしています。

This startup is setting a DALL-E 2-like AI free, consequences be damned | TechCrunch
https://techcrunch.com/2022/08/12/a-startup-wants-to-democratize-the-tech-behind-dall-e-2-consequences-be-damned/

実際にTechCrunchがStable Diffusionで作成した「イギリス首相のボリス・ジョンソン氏が武器を持っている画像」がこれ。Discordサーバーを通じて利用可能なStable Diffusionのホストバージョンでは、性的な画像や人種差別的な画像などの生成が禁止されているそうですが、著名人を含む画像に関するポリシーはないとのこと。

TechCrunchは、Stable DiffusionのDiscordサーバーではウクライナでの戦争、女性のヌード、想像上の中国の台湾侵攻、預言者ムハンマドの姿のような宗教的に物議を醸す画像など、他の画像生成サービスでは許可されていないさまざまなコンテンツが生成されていると指摘。Mostaque氏は、「違法なコンテンツは別として、フィルタリングは最小限に抑えられており、どのようにStable Diffusionを使用するのかはユーザー次第です」と述べています。

なお、記事作成時点ではStable Diffusionの公式Twitterアカウント(@StableDiffusion)は凍結されています。