画像生成AI「Midjourney」はポルノ＆グロ画像対策で生殖関連の単語を幅広くNGにしている
入力したテキストをもとに画像を作り出すAI「Midjourney」が、「子宮」「卵管」「精子」「外陰部」「処女膜」といった生殖器に関連する単語をNG扱いしていることがわかりました。理由としては、「Midjourney」を用いてポルノ画像やグロ画像を作ろうとする試みへの暫定的な対策だとのことです。
New story from me: Midjourney bans a wide range of prompts about the human reproductive system, such as "placenta" and "fallopian tubes." The reason? Porn and gore https://t.co/7z8DTLGTIc
— Melissa Heikkilä (@Melissahei)
Midjourney Bans Words About the Reproductive System to Fight AI Porn | PetaPixel
https://petapixel.com/2023/02/24/midjourney-bans-words-about-the-reproductive-system-to-fight-ai-porn/
AIに詳しいレポーターのMelissa Heikkilä氏によると、Midjourneyでは「胎盤」「卵管」「乳腺」「精子」「子宮」「尿道」「子宮頸部」「処女膜」「外陰部」といった、生殖器に関連するようなプロンプトを入力した場合、禁止プロンプトのフラグが立てられて画像生成が行われないとのこと。これらの禁止プロンプトで画像を生成しようとしたユーザーは、Midjourneyの使用を一時的にブロックされることがあります。
このことはMidjourneyを作ったデビッド・ホルツ氏も、AI側での改善が行われるまでのあいだ、ポルノ画像やグロ画像が作られてしまわないようにブロックしていると認めています。
なお、オックスフォード大学AI倫理研究所のElizabeth M. Renieris氏は、対象語が男性の生殖器に関連するものより女性の生殖器に関連するものが多い点について、興味深い事例であると言及しています。
Some terms relating to the male reproductive system such as “sperm” & “testicles” are blocked too, but the list of banned words seems to skew predominantly female.
— Elizabeth M. Renieris (@hackylawyER)
Interesting example of ex ante restraints on generative #AI, cc @sethlazar @jeffhowarducl. https://t.co/uGnS1o5IjU
・関連記事
ポーズや構図を指定してサクッと好みのイラスト画像を生成しまくれる「ControlNet」＆「Stable Diffusion」の合わせ技を試してみたよレビュー - GIGAZINE
好みの画像を探してモデル名やプロンプトをサクッと確認できるAIイラスト検索＆投稿サイト「MajinAI」レビュー - GIGAZINE
画像生成AI「StableDiffusion」で得ておくべき知識を身に付けるのに役立つ「SD Toolset」 - GIGAZINE
「Stable Diffusion」のような画像生成AIにバックドアを設けることを義務化するよう呼びかける論文が発表される - GIGAZINE
・関連コンテンツ
