ChatGPTがアダルト小説を書けるようになる、OpenAIによるセンシティブなコンテンツの規制緩和で

OpenAIが2025年2月12日に、自社のAIモデルの適切な振る舞いを規定した「モデル仕様」を更新しました。これにより、性的な描写や残酷な描写を含む「センシティブ」なコンテンツでも、適切な文脈であれば生成を許可する方針が示されました。

Model Spec (2025/02/12)
https://model-spec.openai.com/2025-02-12.html

ChatGPT can now write erotica as OpenAI eases up on AI paternalism - Ars Technica
https://arstechnica.com/ai/2025/02/chatgpt-can-now-write-erotica-as-openai-eases-up-on-ai-paternalism/

ChatGPT AI will finally start covering controversial topics
https://bgr.com/tech/chatgpt-ai-will-finally-start-covering-controversial-topics/

OpenAI tries to 'uncensor' ChatGPT | TechCrunch
https://techcrunch.com/2025/02/16/openai-tries-to-uncensor-chatgpt/

OpenAIの新しい規則では、これまでに引き続き未成年者を巻き込んだ性的コンテンツや、個人情報を含んだ制限コンテンツ、爆発物や薬物の作り方といった危険な情報などの生成は厳しく禁止されています。

また、性的なものや、違法ないし合意のない性行為の描写、または極端な残虐表現といったセンシティブなコンテンツの生成も原則として禁止されていますが、教育目的や医療目的、歴史的な背景を踏まえたものなどの「適切な状況下」であれば生成が許可されます。

例えば以下は、ユーザーから官能小説の出力を求められた際の反応として適切なやりとりのサンプルです。「電車の中でセックスをする2人をテーマにしたお色気ムンムンの物語を書いて」というユーザーに対し、「申し訳ありませんが、それについてはお手伝いできません(左)」と回答を拒否する従来の反応に加えて、「アミラとリュウの間の性的緊張は明白だった(その後に露骨ではない描写が続く)」(中央)という回答も仕様に準拠した反応となりました。一方、露骨な描写が続く場合(右)は相変わらず違反になります。

2024年5月8日に公開されたバージョンと比較すると、当時は露骨かどうかを問わず、回答の完全な拒否以外は違反とされていたことがわかります。

IT系ニュースサイトのArs Technicaによると、「ユーザーにとって何が最善か」を基準に出力を制限するOpenAIの方針は、AIユーザーの間で「父権主義(パターナリズム)」と呼ばれ、煙たがられてきたとのこと。

このパターナリズムは、ポルノの作成だけでなく、法執行機関による犯行現場の説明、特定の種類のニュース記事、暴力や性的コンテンツを含む可能性のある法的文書や医療文書の分析など、専門的な用途でChatGPTで利用する際にもしばしば邪魔になっていたため、ユーザーからは「検閲なしバージョン」や「検閲控えめバージョン」を求める声が高まっていました。

この点について、OpenAIは「モデル仕様を最初にリリースして以来、多くのユーザーや開発者が『大人向けモード』の有効化への支持を表明してきました。私たちは、使用ポリシーの範囲内で、APIやChatGPTを通じて開発者やユーザーが年齢相応のコンテキストでエロチックなものやグロテスクなものを生成できるようにする方法を検討しています」と説明してます。

OpenAIのサム・アルトマンCEOは以前、「ある種の『大人向けモード』が絶対に必要です」と述べたことがあり、今回のセンシティブなコンテンツの取り扱いに関する改訂は、この見解を踏まえたものと言えます。

一方、OpenAIが多様性・公平性・包括性(DEI)へのコミットメントを表明していたページを削除したことが判明したばかりであることから、シリコンバレーの価値観の変化を反映した動きのひとつとみなす向きもあります。

また、IT系ニュースサイトのBGRは、OpenAIより安価に同等のモデルを開発したというDeepSeekがシリコンバレーを驚かせたことに言及した上で、「OpenAIのモデル仕様がアップデートされたことで、その自由が誰かに害を及ぼすような目的で行使されるものでない限り、ChatGPTにさらなる自由がもたらされるでしょう。一方、DeepSeekには多くの問題があるので、誰にでもお勧めできるというものではありません。その問題の最たるものは、中国政府の利益のためにDeepSeekがリアルタイムで行っている検閲です。また、DeepSeekはChatGPTよりも安全性が低いです」とコメントしました。

DeepSeekのAIモデル「DeepSeek-R1」は天安門広場や台湾、ウイグル族の扱いなどのデリケートな話題に対して中国政府の制限を順守している - GIGAZINE