画像生成AI「Midjourney」はポルノ＆グロ画像対策で生殖関連の単語を幅広くNGにしている

入力したテキストをもとに画像を作り出すAI「Midjourney」が、「子宮」「卵管」「精子」「外陰部」「処女膜」といった生殖器に関連する単語をNG扱いしていることがわかりました。理由としては、「Midjourney」を用いてポルノ画像やグロ画像を作ろうとする試みへの暫定的な対策だとのことです。

Midjourney Bans Words About the Reproductive System to Fight AI Porn | PetaPixel
https://petapixel.com/2023/02/24/midjourney-bans-words-about-the-reproductive-system-to-fight-ai-porn/

AIに詳しいレポーターのMelissa Heikkilä氏によると、Midjourneyでは「胎盤」「卵管」「乳腺」「精子」「子宮」「尿道」「子宮頸部」「処女膜」「外陰部」といった、生殖器に関連するようなプロンプトを入力した場合、禁止プロンプトのフラグが立てられて画像生成が行われないとのこと。これらの禁止プロンプトで画像を生成しようとしたユーザーは、Midjourneyの使用を一時的にブロックされることがあります。

このことはMidjourneyを作ったデビッド・ホルツ氏も、AI側での改善が行われるまでのあいだ、ポルノ画像やグロ画像が作られてしまわないようにブロックしていると認めています。

なお、オックスフォード大学AI倫理研究所のElizabeth M. Renieris氏は、対象語が男性の生殖器に関連するものより女性の生殖器に関連するものが多い点について、興味深い事例であると言及しています。