ソフトウェア

画像に「毒」を盛ることでAIによる画像学習を防止するツール「Nightshade」が一般公開され誰でも使用可能に


2024年1月19日、シカゴ大学の研究チームが開発した、AIによる画像の学習を防止するツール「Nightshade」が一般公開され、誰でもダウンロード可能になりました。

Nightshade: Protecting Copyright
https://nightshade.cs.uchicago.edu/whatis.html

Today is the day. Nightshade v1.0 is ready. Performance tuning is done, UI fixes are done.

You can download Nightshade v1.0 fromhttps://t.co/knwLJSRrRh

Please read the what-is page and also the User's Guide on how to run Nightshade. It is a bit more involved than Glaze

— Glaze at UChicago (@TheGlazeProject)


Glaze - What is Glaze
https://glaze.cs.uchicago.edu/what-is-glaze.html

AI-poisoning tool Nightshade now available for artists to use | VentureBeat
https://venturebeat.com/ai/nightshade-the-free-tool-that-poisons-ai-models-is-now-available-for-artists-to-use/

シカゴ大学のBen Zhao教授の下で開発されたNightshadeは、「画像に人間の目では気付きにくい変更を加えてAIによる学習を妨害する」というツールです。同研究チームは2023年3月に「Glaze」と呼ばれるAI学習阻害ツールを発表していましたが、研究チームによると、Glazeは「防御的なツール」として開発された一方で、Nightshadeは「攻撃的なツール」として開発が進められたとのこと。

Glazeは元の画像に「摂動」と呼ばれる加工を施すことで、AIが作者の芸術的スタイルを学習できなくなり、模倣に失敗するというツールです。一方、Nightshadeはスタイルの模倣に対する防御ではなく、画像内の特徴表現をゆがめることで、AIによる学習を根本的に妨害することが可能です。Nightshadeのこの仕組みについて、研究チームは「画像に『毒』を盛る」と表現しています。

また、研究チームによると、Nightshadeを用いて加工された画像に対し、クロップやリサンプリング、圧縮などを行っても加工への影響は最小限とのこと。

Highly recommend you read the User's Guide to understand how to use the poison tag.

NS is very similar to Glaze in general tools used. So the usual robustness applies. Cropping, resampling, compression etc etc have minimal impact on NS poison.

Have fun!

— Glaze at UChicago (@TheGlazeProject)


Nightshadeの仕組みや、実際に出力された画像の例については、以下の記事で詳しくまとめられています。

イラスト作品や写真作品を毒化して画像生成AIの学習を阻害できる学習防止ツール「Nightshade」 - GIGAZINE


研究チームは、「Nightshadeは、GlazeよりAIによる学習の妨害効果が弱くなっていますが、その分人間の目には見えにくくなっています」と述べています。

Same perturbations budget. So mathematically it’s identical or less visible than glaze. We actually allow lower intensity effects than glaze. Less poison is ok but less protection is not. But you can look in the paper for examples. https://t.co/0mIZgOl1Fp

— Glaze at UChicago (@TheGlazeProject)


一方でNightshadeを用いて加工された画像が、人間の目で見ても区別がつくほど変化してしまう例もあります。以下は2DアーティストのПовышенная синицевость氏が提示した例です。左がオリジナルの画像、中央がNightshadeの「Low Fast」設定での出力画像、右が「Low Slow」設定での出力画像です。拡大して見ると、オリジナルの画像と比べて、Nightshadeで加工を行った画像は背景のカーテンなどの画質が粗くなっていることが確認できます。


この指摘に対して研究チームは「今回の画像のように、複雑なレンダリングではこのようなことが起こる可能性があります。画像の変化が自身のアートスタイルにとって過剰すぎると思う場合、Nightshadeを使用する必要はありません」と述べています。

Short answer: yes. But you can also run on longer rendering. And since it’s poison, you don’t *need* to use it if it looks too strong for your art style.

— Glaze at UChicago (@TheGlazeProject)


なお、これらの指摘を受け、記事作成時点でNightshadeには、「前世代のトレーニングプロセスではほとんど機能しない」「最新のトレーニングプロセスではまったく機能しない」との理由から「学術的には興味深いですが、現実的には非現実な結果を誇張しすぎたケースかもしれません」との厳しい評価が付けられています。

NightshadeはWindows版とAppleシリコンを搭載するMac版が配信されており、誰でもダウンロード可能です。なお、記事作成時点でNightshadeの人気が高まっていることに伴い、ダウンロードに要する時間が長いことが報告されています。そこで、研究チームはNightshadeバイナリ用の高速ミラーリンクからダウンロードすることを推奨しています。

The demand for nightshade has been off the charts. Global Requests have actually saturated our campus network link. (No dos attack, just legit downloads). We are adding two fast mirror links for nightshade binaries.

Win: https://t.co/rodLkW0ivK
Mac: https://t.co/mEzciopGAE

— Glaze at UChicago (@TheGlazeProject)


今後の目標として研究チームは、AIによる学習の阻害をさらに強化するため、GlazeとNightshadeの統合版の開発を行うことを挙げています。

Folks. This version does not include glaze. We will work on an integrated version of glaze+ns. For now if you want benefits of both, you should shade first, glaze last. But note that artifacts might be more visible. The integrated version will fix this issue.

— Glaze at UChicago (@TheGlazeProject)


また、ブラウザ版GlazeにNightshadeを統合する計画があることも明かしています。

we will integrate this into webglaze ... just a matter of time

— Glaze at UChicago (@TheGlazeProject)


さらに、今後は静止画だけでなく、動画用のGlazeの開発を検討していることも報告されています。

only still images. We are exploring a Glaze for video tool that prevents ai bros from taking freeze frames out of a video to steal

— Glaze at UChicago (@TheGlazeProject)

この記事のタイトルとURLをコピーする

・関連記事
イラスト作品や写真作品を毒化して画像生成AIの学習を阻害できる学習防止ツール「Nightshade」 - GIGAZINE

オリジナルのアートに目に見えない改変を加えてAIによる学習を防ぐツール「Glaze」が公開 - GIGAZINE

画像生成AI「DALL-E」のシステムメッセージが発見され「プロンプトは大文字にした方がいいのか?」などと指摘されてしまう事態に - GIGAZINE

MicrosoftとAdobeが推進する「AI透かし」はどのように機能するのか - GIGAZINE

自分のイラストや写真を画像生成AIが学習するのを妨害する電子透かしを入れるツール「Mist」 - GIGAZINE

in ソフトウェア, Posted by log1r_ut

You can read the machine translated English article here.