「児童性的虐待記録物(CSAM)を生成するAIツール」の使用・所有・配布を取り締まる世界初の法律をイギリスが制定へ

イギリス政府が、AIツールを用いて児童性的虐待記録物(CSAM)を生成する人々を取り締まる法律の制定に取り組んでいることがわかりました。世界各国にはCSAMの作成や所有を取り締まる法律がいろいろと存在しますが、「AIツールを用いたCSAMの生成」を対象とした法律は世界初のものとなる見通しです。

New AI child sexual abuse laws announced following IWF campaign
https://www.iwf.org.uk/news-media/news/new-ai-child-sexual-abuse-laws-announced-following-iwf-campaign/

UK makes use of AI tools to create child abuse material a crime | Reuters
https://www.reuters.com/technology/artificial-intelligence/uk-makes-use-ai-tools-create-child-abuse-material-crime-2025-02-01/

Makers of AI child abuse images to be jailed after UK introduces world-first law | News Politics | Metro News
https://metro.co.uk/2025/02/02/makers-ai-child-abuse-images-jailed-uk-introduces-world-first-law-22481459/

AI tools used for child sexual abuse images targeted in Home Office crackdown | Artificial intelligence (AI) | The Guardian
https://www.theguardian.com/technology/2025/feb/01/ai-tools-used-for-child-sexual-abuse-images-targeted-in-home-office-crackdown

UK readying new laws against AI-generated child sexual abuse material - Neowin
https://www.neowin.net/news/uk-readying-new-laws-against-ai-generated-child-sexual-abuse-material/

2025年2月2日(日)、BBCで放送されたトーク番組「Sunday with Laura Kuenssberg」にイヴェット・クーパー内務大臣が出演し、AIを用いたCSAM作成を防ぐ対策を行うことを表明しました。

子どもたちを守るための活動をしているInternet Watch Foundation(IWF)によると、新たな法律はCSAMを作成するために最適化されたAIモデルの所有と配布を禁止するとともに、犯罪者がAIを使用してCSAMを作成する方法を指示するマニュアルを所有することも禁止するもの。

イギリスにも児童ポルノを取り締まる法律はあるものの、「犯罪者が見つかることなく、オフラインでリアルなCSAMを無制限に作成することが容易になっている」とIWFは不備を指摘しています。IWFによると、オンラインで発見されたAI生成のCSAMは1年で4倍に増加しているとのこと。

IWFの暫定CEOであるデレク・レイヒル氏は、「IWFは長らく法律強化を求めてきました。政府が我々の勧告を採用したことをうれしく思います」と言及した上で「過去に性的虐待を受けた子どもたちは、AIモデルをトレーニングするためにCSAMが商品化されて、何度も被害者になっています。子どもは誰でも、この悪夢のような出来事の被害者になり得ます」と述べました。

オンラインの子どもの安全に関する全党議会グループの議長を務めるグレゴール・ポイントン議員も「子どもたちを保護することが何よりも最優先でなければなりません。AIで生成されたCSAMの台頭は、オンラインでの児童搾取を拡大させる恐れのある、非常に憂慮すべき事態です」「AIイノベーションは多くの利点を提供してくれますが、子どもの安全を犠牲にしてはいけません。私は、増大する脅威に対応するために政府が執った措置に勇気づけられ、このテクノロジーが子どもたちに危害を加えようとする人々によって兵器化されるのを防ぐために、強力なセーフガードが導入されるよう断固たる行動を続けます」と述べています。