2023年03月20日 16時00分ソフトウェア

オリジナルのアートに目に見えない改変を加えてAIによる学習を防ぐツール「Glaze」が公開

「Stable Diffusion」や「Midjourney」をはじめとする画像生成AIは入力したキーワードに沿って適切な画像を生成することができますが、一方でAIの学習には人間が描いたイラストや絵画などが使用されることもあり、著作権侵害が問題となっています。そんな中、シカゴ大学の研究チームが、人間が描いた絵画を分析し、ほとんど目に見えない改変を加えることでAIによる学習から保護するためのツールである「Glaze」を発表しました。

GLAZE: Protecting Artists from Style Mimicry by Text-to-Image Models
(PDFファイル)https://arxiv.org/pdf/2302.04222.pdf

Glaze: Protecting Artists from Style Mimicry
https://glaze.cs.uchicago.edu/

We tested Glaze art cloaking - by Jordan Meyer
https://spawning.substack.com/p/we-tested-glaze-art-cloaking

Glaze protects art from prying AIs | TechCrunch
https://techcrunch.com/2023/03/17/glaze-generative-ai-art-style-mimicry-protection/

シカゴ大学のショーン・シャン氏らの研究チームは、侵襲的なAIの使用からユーザーを保護することに関心を寄せています。日本時間2023年3月16日にシャン氏らの研究チームが、アーティストをAIによる模倣から保護するためのツールである「Glaze」を発表しました。研究チームのチョウ・ベン氏は「Glazeはアートを分析し、ほとんど目に見えない変更を加えたバージョンを生成します。この生成されたバージョンの画像はAIの模倣プロセスを混乱させます」と述べています。

It's a big day.
Glaze, our tool for protecting artists against AI art mimicry, is now available for download/use at https://t.co/8ffUCS4fUo

Glaze analyzes your art, and generates a modified version (with barely visible changes). This "cloaked" image disrupts AI mimicry process.
— Ben Zhao (@ravenben) March 15, 2023

研究チームが発表した「Glaze」は、各画像に対して目に見えない「摂動」を適用することで、AIは作者の芸術的スタイルを学習することができず「○○っぽい画像」といったキーワードでの画像生成が困難になるというツールです。

研究チームの例では、オリジナルのアートにGlazeを適用して生成された「クロークアートワーク」を学習したAIは、この画像の模倣に失敗しています。

チョウ氏は「多かれ少なかれ画像生成AIが著作権で保護されたデータを使用して開発されていることは明らかであり、画像生成AIは現代の倫理にほとんど配慮していません」と述べ、「これが私たちがGlazeを開発することになった原動力です」と明かしています。

実際に2023年1月には画像生成AIのMidjourneyやStable Diffusionは著作権で保護された画像を利用して学習を行っているとされ、訴訟が提起されています。

画像生成AI「Stable Diffusion」と「Midjourney」に対して集団訴訟が提起される - GIGAZINE

Glazeについてチョウ氏は「世の中にあるすべての画像生成AIに対応している訳ではありませんが、GlazeはMidjourneyやStable Diffusion以外のさまざまな画像生成AIでも一定の効果があると考えられています」と述べています。一方で摂動を適用するというGlazeの方法から、白黒の画像やシンプルな画像では効果が低いと示唆しています。以下の画像では生成された「クロークアートワーク」がオリジナルの画像から目に見えて変化してしまっている例が示されています。

しかし研究チームは「残念ながらGlazeは画像生成AIの模倣に対する恒久的な解決策ではありません」と述べています。その理由として、追いつくことが困難なAIの急速な進化を挙げています。研究チームは「Glazeのようなアートを保護するために使用する技術は、画像生成AIの将来的な対策によって克服され、これまで保護されていたアートを脆弱(ぜいじゃく)にする可能性があります」と提起しています。

それでも研究チームは「AIによる模倣に対するユーザーによる長期的な取り組みが定着することを願っています」と述べ、継続的な研究や更新を行うことを発表しています。

なお、Glazeは無料で公開されており、WindowsとMacユーザーはダウンロードして使用することが可能です。

Glaze: Protecting Artists from Style Mimicry
https://glaze.cs.uchicago.edu/download.html