ソフトウェア

画像に「毒」を盛ることでAIによる画像学習を防止するツール「Nightshade」が一般公開され誰でも使用可能に


2024年1月19日、シカゴ大学の研究チームが開発した、AIによる画像の学習を防止するツール「Nightshade」が一般公開され、誰でもダウンロード可能になりました。

Nightshade: Protecting Copyright
https://nightshade.cs.uchicago.edu/whatis.html


Glaze - What is Glaze
https://glaze.cs.uchicago.edu/what-is-glaze.html

AI-poisoning tool Nightshade now available for artists to use | VentureBeat
https://venturebeat.com/ai/nightshade-the-free-tool-that-poisons-ai-models-is-now-available-for-artists-to-use/

シカゴ大学のBen Zhao教授の下で開発されたNightshadeは、「画像に人間の目では気付きにくい変更を加えてAIによる学習を妨害する」というツールです。同研究チームは2023年3月に「Glaze」と呼ばれるAI学習阻害ツールを発表していましたが、研究チームによると、Glazeは「防御的なツール」として開発された一方で、Nightshadeは「攻撃的なツール」として開発が進められたとのこと。

Glazeは元の画像に「摂動」と呼ばれる加工を施すことで、AIが作者の芸術的スタイルを学習できなくなり、模倣に失敗するというツールです。一方、Nightshadeはスタイルの模倣に対する防御ではなく、画像内の特徴表現をゆがめることで、AIによる学習を根本的に妨害することが可能です。Nightshadeのこの仕組みについて、研究チームは「画像に『毒』を盛る」と表現しています。

また、研究チームによると、Nightshadeを用いて加工された画像に対し、クロップやリサンプリング、圧縮などを行っても加工への影響は最小限とのこと。


Nightshadeの仕組みや、実際に出力された画像の例については、以下の記事で詳しくまとめられています。

イラスト作品や写真作品を毒化して画像生成AIの学習を阻害できる学習防止ツール「Nightshade」 - GIGAZINE


研究チームは、「Nightshadeは、GlazeよりAIによる学習の妨害効果が弱くなっていますが、その分人間の目には見えにくくなっています」と述べています。


一方でNightshadeを用いて加工された画像が、人間の目で見ても区別がつくほど変化してしまう例もあります。以下は2DアーティストのПовышенная синицевость氏が提示した例です。左がオリジナルの画像、中央がNightshadeの「Low Fast」設定での出力画像、右が「Low Slow」設定での出力画像です。拡大して見ると、オリジナルの画像と比べて、Nightshadeで加工を行った画像は背景のカーテンなどの画質が粗くなっていることが確認できます。


この指摘に対して研究チームは「今回の画像のように、複雑なレンダリングではこのようなことが起こる可能性があります。画像の変化が自身のアートスタイルにとって過剰すぎると思う場合、Nightshadeを使用する必要はありません」と述べています。


なお、これらの指摘を受け、記事作成時点でNightshadeには、「前世代のトレーニングプロセスではほとんど機能しない」「最新のトレーニングプロセスではまったく機能しない」との理由から「学術的には興味深いですが、現実的には非現実な結果を誇張しすぎたケースかもしれません」との厳しい評価が付けられています。

NightshadeはWindows版とAppleシリコンを搭載するMac版が配信されており、誰でもダウンロード可能です。なお、記事作成時点でNightshadeの人気が高まっていることに伴い、ダウンロードに要する時間が長いことが報告されています。そこで、研究チームはNightshadeバイナリ用の高速ミラーリンクからダウンロードすることを推奨しています。


今後の目標として研究チームは、AIによる学習の阻害をさらに強化するため、GlazeとNightshadeの統合版の開発を行うことを挙げています。


また、ブラウザ版GlazeにNightshadeを統合する計画があることも明かしています。


さらに、今後は静止画だけでなく、動画用のGlazeの開発を検討していることも報告されています。

この記事のタイトルとURLをコピーする

・関連記事
イラスト作品や写真作品を毒化して画像生成AIの学習を阻害できる学習防止ツール「Nightshade」 - GIGAZINE

オリジナルのアートに目に見えない改変を加えてAIによる学習を防ぐツール「Glaze」が公開 - GIGAZINE

画像生成AI「DALL-E」のシステムメッセージが発見され「プロンプトは大文字にした方がいいのか？」などと指摘されてしまう事態に - GIGAZINE

MicrosoftとAdobeが推進する「AI透かし」はどのように機能するのか - GIGAZINE

自分のイラストや写真を画像生成AIが学習するのを妨害する電子透かしを入れるツール「Mist」 - GIGAZINE

・関連コンテンツ

in ソフトウェア, Posted by log1r_ut

You can read the machine translated English article here.