中国が画像生成AIの画像に「AI生成マークの表示」を義務化＆AIユーザーも実名登録制へ

近年、Stable DiffusionやMidjourneyなどの画像生成AIの開発が急速に進んでおり、誰でも手軽にAIによるコンテンツ生成を実行できる環境が整いつつあります。そんな中、中国政府が画像やムービーを生成できるAIについて「ユーザーの実名登録」や「AIによって生成された旨の表示」を義務付ける規則を発表しました。

国家互联网信息办公室等三部门发布《互联网信息服务深度合成管理规定》-中共中央网络安全和信息化委员会办公室
http://www.cac.gov.cn/2022-12/11/c_1672221949318230.htm

China bans deepfakes created without permission or for evil • The Register
https://www.theregister.com/2022/12/12/china_deep_synthesis_deepfake_regulation/

China bans AI-generated media without watermarks | Ars Technica
https://arstechnica.com/information-technology/2022/12/china-bans-ai-generated-media-without-watermarks/

画像生成AIなどのコンテンツ生成AIには世界中から大きな注目が集まっており、中国語圏でもAIを活用するための情報が積極的にやり取りされています。また、中国の大手テクノロジー企業「Baidu(百度)」が画像生成AI「ERNIE-ViLG」を開発するなど、コンテンツ生成AIの開発も活発に行われています。一方で、ERNIE-ViLGでは「天安門事件」や「革命」といった中国政府にとって都合の悪いワードがブロックされていることも判明しており、中国政府の厳しい検閲の影響がコンテンツ生成AIにも及んでいることが明らかになっています。

二次元キャラに強い中国の画像生成AIで「天安門事件」「革命」など政治的な文言のブロックが行われていることが判明 - GIGAZINE

そんな状況の中、中国政府は2022年12月11日にコンテンツ生成AIに関する新規則を発表しました。発表の中で中国政府は「コンテンツ生成AIは急速に発展しており、ユーザーのニーズを満たし、ユーザーエクスペリエンスを向上させています。一方で、一部の悪意あるユーザーは違法なコンテンツや有害なコンテンツを生成して拡散し、他者への誹謗(ひぼう)中傷に及んでいます」「コンテンツ生成AIの開発促進や監査能力の向上には、規則の導入が必要です」と述べています。

新規則の概要は以下の通り。

・コンテンツ生成AIの提供者は、ユーザーの身元情報を確認し、コンテンツ管理を強化する必要がある
・人間の顔やリアルなシーンを生成する際は、AIによって生成されたことを示すマークを目立つように表示する必要がある
・AI生成コンテンツであることを示すマークを改ざんしてはならない
・コンテンツ生成AIは法律および行政法規によって禁止されている活動に使用されてはならない
・コンテンツ生成AIの提供者は、生成されたコンテンツが情報セキュリティ上のリスクを含んでいる場合にユーザーのアカウントを停止しなければならない
・規則は中国国内でコンテンツを流布するコンテンツ生成AIに適用される

上記の新規則は、2023年1月10日に発効予定です。