153年の歴史を持つ科学誌の「Nature」がAIが生成した画像の掲載を禁止すると発表

1869年に設立された科学誌の「Nature」が、Stable DiffusionのようなAIツールを用いて生成された画像の掲載を禁止すると発表しました。

Why Nature will not allow the use of generative AI in images and video
https://www.nature.com/articles/d41586-023-01546-4

Nature bans AI-generated art from its 153-year-old science journal | Ars Technica
https://arstechnica.com/information-technology/2023/06/nature-bans-ai-generated-art-from-its-153-year-old-science-journal/

2023年6月7日、Natureが「画像や動画で生成AIの使用を許可しない理由」と題した記事を公開しました。NatureはChatGPTやMidjourneyのようなジェネレーティブAIツールを用いて作成されたコンテンツが昨今急増していると言及。ジェネレーティブAIの機能が急速に向上するにつれ、Nature内では数カ月にわたってジェネレーティブAIの利用可否について議論・討論・コンサルティングが続けられてきたとのこと。

そして、Natureは「AIに特化した記事を除き、Natureでは少なくとも当面の間は、ジェネレーティブAIを使用して生成された写真・動画・イラストが全体的あるいは部分的に利用されるコンテンツを公開しません」と述べ、当面の間は一部の例外を除いてジェネレーティブAIにより生成されたビジュアルコンテンツは利用しないとしました。

また、Natureに掲載されるビジュアルコンテンツを作成するアーティスト・映像制作者・イラストレーター・写真家は、提出する作品が「AIを使用して生成されたもの」あるいは「AIを使用して作成されたものに手を加えたもの」ではないことを確認することが求められます。

この旨は以下のページにもまとめられています。Natureは「法的に許容される方法で画像を作成した当社と契約関係にある代理店から入手した画像あるいはアートは例外です」「このポリシーのその他の例外には、特にAIに関する記事で直接参照されている画像や動画が含まれており、ケースバイケースで審査されます」とし、ジェネレーティブAIツールを用いて作成された画像でも掲載可能となるケースがあるとも説明しています。

Artificial Intelligence (AI) | Nature Portfolio
https://www.nature.com/nature-portfolio/editorial-policies/ai

NatureはジェネレーティブAIが生成したコンテンツの利用を禁止する理由について、「結局のところ、それは誠実さの問題です。出版プロセスは科学と芸術の両方に関する限り、誠実さへの共通の取り組みによって支えられています。これには透明性も含まれます。研究者・編集者・出版社として、我々はデータと画像のソースを知り、それらが正確かつ真実であることを検証できるようにする必要があります。既存のジェネレーティブAIツールではそのような検証を行うためのソースへのアクセスが提供されていません」と言及。

さらに、既存の著作物が使用または引用される場合には帰属表示する必要があります。これは科学と芸術における中枢原則であるのに対して、「ジェネレーティブAIツールはこの原則に適合しない」とNatureは指摘しました。

また、個人が特定できる場合、あるいはアーティストやイラストレーターの知的財産が関与する場合、当事者から同意と許可を得る必要があります。しかし、一般的なジェネレーティブAIツールの場合、この同意と許可のプロセスにおいても問題が生じる可能性があるとNatureは指摘しています。

上記の3点はいずれも「ジェネレーティブAIがソースを特定する努力が全く行われていない画像を利用してトレーニングされている」ために生じる問題です。

Natureは「著作権で保護されているはずの作品が、適切な許可なしにジェネレーティブAIのトレーニングに日常的に利用されており、場合によっては人々のプライバシーを侵害しているケースもあります」「プライバシーへの懸念に加え、ディープフェイクが簡単に作成できてしまうという点も偽情報の拡散を加速させます」と述べ、ジェネレーティブAIの抱える問題点を指摘しています。

なお、NatureはChatGPTなどの大規模言語モデル(LLM)は「著者基準を満たしていない」として、AIを学術論文の著者とすることを認めていません。ただし、適切な注意を払ったうえでジェネレーティブAIを利用して生成したテキストを論文に含めることは許可しています。ただし、これにはジェネレーティブAIツールの使用について、論文のメソッドまたは謝辞セクションで文書化する必要があり、著者はAIの支援によって生成されたデータを含むすべてのデータのソースを提供する必要があります。

Natureは「世界はAI革命の瀬戸際にあります。この革命には大きな期待が寄せられていますが、AI、特にジェネレーティブAIは科学・芸術・出版といった分野で長らく確立されてきた慣習を急速に覆しつつあります。このような規模の革命を起こすツールは、場合によって開発に何世紀もかかってきました。その結果、科学の完全性を保護し、コンテンツ作成者を悪用から保護するためのシステムが誕生することにもつながりました。AIの取り扱いは、注意しなければこれまでの成果をすべて崩してしまう危険性があります」と述べ、AI関連コンテンツの利用に慎重になる理由を説明しています。