XがGrokの画像編集機能による水着化・下着化・ヌード化を禁止した上で使用を有料利用者に限定

AI「Grok」を用いて大量の性的画像が生成されていると指摘されている問題で、XがGrokで画像編集を行ったときに被写体となった実在人物の服装の露出度を高めることができないよう技術的対策を施したことを明らかにしました。また、X経由でGrokを用いて画像編集する機能が使えるのは有料利用者のみになりました。

@Grok Account Image Generation Updates
https://x.com/Safety/article/2011573102485127562

X says Grok will no lnger edit images of real people into bikinis
https://www.engadget.com/ai/x-says-grok-will-no-longer-edit-images-of-real-people-into-bikinis-231430257.html

Xは2026年1月15日、「Grokアカウントの画像生成についての更新」と題した発表を行いました。

発表の中で、Xは「あらゆる形態の児童性的搾取、同意のないヌード、望ましくない性的コンテンツを一切容認しない」という姿勢を示し、該当する違反コンテンツを削除するための適切な措置を講じることや、必要に応じて、児童性的虐待に関する資料を求めるようなアカウントを法執行機関に通報することを明らかにしました。

問題となっているGrokの画像編集については、実在人物の写真をビキニなど露出度の高い服装にすることができないように技術的対策を施したと発表。機能そのものを2026年1月から一部有料化

また、ポリシーに違反する人物の責任を確実に問えるよう、Grokを用いた画像編集機能は「から完全有料となることも明らかになりました。

XのAI画像編集機能が一部有料化 - GIGAZINE

なお、Xでは以前から「投稿されるすべてのAIプロンプトと生成されたコンテンツは、Xのルールに厳密に準拠する必要がある」という方針を掲げており、今回の発表でも軸がブレていないことを主張しています。

Grokを用いたディープフェイク生成をめぐっては、インドネシアとマレーシアがGrokへのアクセスをブロックし、フランスやイギリスでは規制当局が調査のに乗り出しています。

また、アメリカでは「DEFIANCE Act(反抗法)」と呼ばれる、合意なくディープフェイクを作られた被害者が訴訟を起こせる法案が上院を通過しています。

合意のない性的ディープフェイク被害者が訴訟を起こせる法案がアメリカの上院で可決、Grokの性的画像量産問題が背景に - GIGAZINE