画像生成AI「Midjourney」が「異常な需要と悪用」を理由に無料トライアル停止

画像生成AIの「Midjourney」が、無料で利用できるトライアルを停止しました。デビッド・ホルツCEOはその理由に「異常な需要と、トライアルの悪用」を挙げています。

Midjourney is making fake images go mainstream - The Washington Post
https://www.washingtonpost.com/technology/2023/03/30/midjourney-ai-image-generation-rules/

AI image generator Midjourney stops free trials but says influx of new users to blame - The Verge
https://www.theverge.com/2023/3/30/23662940/deepfake-viral-ai-misinformation-midjourney-stops-free-trials

Midjourneyは、単語や文章を入力するとその内容に応じた画像を生成するAIで、2022年に公開されました。2023年3月に登場した最新バージョンの「Midjourney V5」では、これまで画像生成AIが苦手としてきた「手」の描写も自然なものになり、もはや写真との区別が不可能なところまで来ていると評されています。

画像生成AI「Midjourney V5」登場、超高画質＆AIが苦手な「手」もキレイで実写との区別はほぼ不可能 - GIGAZINE

一方で、フェイク画像を高画質で生成できてしまい、フェイクなのかどうか見分けがつきにくいという問題もあります。直近では「ドナルド・トランプ氏が逮捕されて裁判にかけられた」というフェイク画像を大量に生成したユーザーが利用禁止処分を受けました。

画像生成AI「Midjourney V5」を利用して偽の「トランプ前大統領が逮捕された」画像を生成した人物が利用禁止処分を受ける - GIGAZINE

また、フランシスコ教皇が実在しないおしゃれな法衣を着ている画像も出回っています。

ここまで来ると、さすがにぱっと見ておかしいとわかるレベル。

こうした流れを経て、Midjourneyのデビッド・ホルツCEOは無料トライアルの停止を決定しました。ホルツCEOはオフィスアワーに「実在の人物を描写するときのルール決定に苦労している」と語ったとのこと。

なお、Midjourneyでは、生成された画像の不正行為をレビューするためのAIモデレーションツールの改良に取り組んでいるそうです。