中国の規制当局がChatGPTのような生成型AIの規制法案を発表、AIが中国共産党への反対を唱えると企業が罪に問われる危険性

中国のインターネット規制当局である中国サイバースペース管理局(CAC)が2023年4月11日に、ジェネレーティブAIが一般公開される際には、事前に政府のセキュリティ評価に合格しなければならないことなどを盛り込んだ規制法の草案を発表しました。

China’s internet watchdog proposes rules, security assessment for AI tools similar to ChatGPT | South China Morning Post
https://www.scmp.com/tech/policy/article/3216691/chinas-internet-watchdog-proposes-rules-security-assessment-ai-tools-similar-chatgpt

China proposes measures to manage generative AI services | Reuters
https://www.reuters.com/technology/china-releases-draft-measures-managing-generative-artificial-intelligence-2023-04-11/

CACが発表した新しい規制法案には、中国でジェネレーティブAIサービスを提供する企業は、差別的なコンテンツ、虚偽の情報、個人のプライバシーや知的財産権を侵害するコンテンツを防ぐための措置を講じる必要があるとされています。

CACはまた、企業は自社製品が「中国の社会主義的価値観」を支持することや、政権転覆や暴力、ポルノを示唆するコンテンツなど経済社会の秩序を破壊するコンテンツを生成しないことを確認しなければならないとも述べました。企業がこれに違反したり規則に従わなかったりした場合、罰金やサービスの停止、犯罪捜査に直面することになります。

中国の規制当局がAI企業規制法案の制定を急いでいる背景には、同国で活発化しているジェネレーティブAIの開発競争があります。OpenAIのChatGPTが世界的にヒットして以来、中国企業はChatGPTに似たAIの開発を我先にと進めており、すでに中国の大手検索エンジン・Baiduの「ERNIE Bot」や、アリババの「通義千問(トンギーチェンウェン)」といったジェネレーティブAIが世に出ています。

アリババがChatGPTの50倍以上のパラメーターを持つチャットAI「通义千问(トンギーチェンウェン)」を発表 - GIGAZINE

ジェネレーティブAIへの関心が高まるにつれ、中国当局は急速に発展するAIがもたらすリスクへの警戒心を強めるようになりました。中国の国営メディアはジェネレーティブAIをめぐる「バブル」や「行き過ぎた誇大広告」に繰り返し警告を発しており、中にはChatGPTがユーザーの道徳的判断を高めるどころか、むしろ退廃させると警鐘を鳴らした新聞もあるとのこと。

AIへの懸念を受けて、中国の中央銀行が管轄する中国支付清算協会は2023年4月10日に、「ChatGPTのようなツールを使用する際は法律と規制を順守し、重要な機密情報をアップロードしないようにする必要がある」とする声明を発表して、業界関係者に注意喚起しました。

中国国外の専門家からは、中国政府による規制や検閲がAI企業を萎縮させかねないと指摘する声が上がっています。アメリカ・ジョージタウン大学でリサーチアナリストを務めるHanna Dohmen氏は2月に、「過度な制限、コンテンツ規制、検閲はこうした技術の商業展開やイノベーションを妨げる可能性がある」と述べました。

中国がChatGPTのようなAIツールで後れを取っているのは検閲と地政学的な緊張による統制の強化が原因との指摘 - GIGAZINE

一方、中国の専門家は楽観的な見方を変えていません。香港大学法学部の准教授であるAngela Zhang氏は「法律のコンテンツ要件は、中国のインターネット企業にとって目新しいものではないので、この新しい規則の公表が中国企業に過酷な負担を強いるとは思いません」と話しました。

CACは5月10日まで規制法案に対するパブリックコメントを募集しており、その後2023年中に発効する見通しとのことです。