AIによるポルノコンテンツ生成を認めるべきかOpenAIが検討中

チャットAI「ChatGPT」や画像生成AI「DALL-E」を開発するOpenAIが、ユーザーに対し「ポルノや流血表現、中傷などを含む」コンテンツを自社のAI製品を通じて生成できるようにすることを検討中であることを明らかにしました。

OpenAI considers allowing users to create AI-generated pornography | Artificial intelligence (AI) | The Guardian
https://www.theguardian.com/technology/article/2024/may/09/openai-considers-allowing-users-to-create-ai-generated-pornography

これまでOpenAIは科学的資料や教育資料などを除き、「性的に露骨なコンテンツや暗示的なコンテンツ」の生成を禁止してきました。しかし、OpenAIの最高技術責任者であるムラ・ミラティ氏は動画生成AI「Sora」の発表の際、「アーティストがAIを使ってさらに表現したいクリエイティブな環境を求めていることは想像に難くありません。私たちはさまざまな分野のアーティストやクリエイターと協力して、何が便利で、ツールがどの程度の柔軟性を提供すべきかを把握しているところです」と語っていました。

そしてOpenAIは「自社製品を通じて、開発者とユーザーが責任を持った上でNSFWコンテンツを生成できるようにすることを検討している」と明らかにしました。OpenAIによると検討を重ねているコンテンツには「ポルノや極端な流血、中傷、一方的な冒瀆(ぼうとく)」が含まれる可能性があるとのこと。

OpenAIは「この分野でのモデル行動に対するユーザーや社会の期待をより良く理解できることを楽しみにしています」と述べています。また、OpenAIのジョアン・ジャン氏は「OpenAIは、エロティックなテキストやヌード画像の生成を今後も禁止すべきかどうかについて議論を始めたいと考えています」と報告。一方で「ディープフェイクの生成は許されるべきではありません」と指摘しています。

ジャン氏は「法律や他人の権利を侵害しない範囲で、人々が最大限のAIのコントロールを行えるようにしたいと考えていますが、ディープフェイクを可能にすることは問題外です」と述べています。

加えてジャン氏は「生成したテキストや画像がポルノと見なされるかどうかはユーザーの定義によります」と述べ、「NSFWの許可についての議論こそ、OpenAIが望んでいる会話なのです」と述べています。

一方でダラム大学の法学教授であるクレア・マクグリン氏は「私は、OpenAIがNSFWコンテンツの生成を合意の上で作られた合法的な資料に限定しようとするいかなる方法についても懐疑的です」と指摘。

また、オンラインでの性的虐待から子どもを守る慈善団体「Internet Watch Foundation(IWF)」は「近年ではAIで生成されたディープフェイクなどの問題が多発しているにもかかわらず、OpenAIが実際的な対策を講じず、AIが生み出す害に対する企業責任を果たさないのは非常に残念です」と批判しています。さらにIWFは「NSFWコンテンツの生成を認めることは、OpenAI自身が掲げる『安全で有益な汎用(はんよう)人工知能の開発』という目標を損なうもの」と指摘しました。