ChatGPTで列車事故のフェイクニュースを作成した容疑者を中国警察が逮捕
9人が死亡したという列車事故のフェイクニュースをChatGPTを用いて作成した疑いで、中国・甘粛省の警察が男を逮捕しました。今回の事例は、2023年1月10日から施行された深層合成技術を規制する規則が初めて適用された事例だとみられています。
Chinese police arrest man who allegedly used ChatGPT to spread fake news
https://www.cnbc.com/2023/05/09/chinese-police-arrest-man-who-allegedly-used-chatgpt-to-spread-fake-news.html
警察によると、容疑者の作成した記事は中国の検索大手・バイドゥの所有するブログプラットフォームにおいて、20以上のアカウントによって投稿され、1万5000回以上閲覧されていたとのこと。
容疑者はプラットフォームによる重複チェックを通過するため、ChatGPTを用いて内容が微妙に異なる複数バージョンのフェイクニュースを作成していました。
中国はネットコンテンツを強く規制していて、AIやディープフェイクもその例外ではありません。2023年1月にはディープフェイク規制を含む、深層合成技術の管理規則が施行されました。この規則では「フェイクニュースを広めるために技術を用いてはならない」「合成で生み出したコンテンツは、技術で変更された内容であることを何らかの形でユーザーに通知する必要がある」「既存の法律に違反するコンテンツは禁止、国家の安全や利益を危険にさらすコンテンツや国家イメージを損なったり経済的混乱をもたらしたりするコンテンツも禁止」などが定められています。
China is bringing in first-of-its-kind regulation on 'deepfakes'
https://www.cnbc.com/2022/12/23/china-is-bringing-in-first-of-its-kind-regulation-on-deepfakes.html
なお、中国では、中央政府に懸念をもたらす可能性のある新技術を管理する法律の導入を目指しているとのことです。
・関連記事
チャットAIを使った収益目的の低品質なニュースサイトが乱立していることが明らかに - GIGAZINE
AmazonレビューやTwitterにChatGPTで生成されたスパムが爆増中、「AI製スパム」の増加を専門家が懸念 - GIGAZINE
「プロパガンダの爆発」を防ぐためにAIチップを制限することをOpenAIが政府に提案、BingのAIは「人間になりたい」と訴える - GIGAZINE
「文章生成AIによって作られたフェイクニュース」は本当に民主主義にとって危険なのか? - GIGAZINE
・関連コンテンツ
in メモ, Posted by logc_nt
You can read the machine translated English article Chinese Police Arrest Suspect Who Create….