EUで進む「児童の性的虐待コンテンツ検出システム」の義務化の裏には利権団体が群がっているとの指摘

EUの政策執行機関である欧州委員会は2022年5月に、チャットアプリやSNSなどのオンラインサービスプロバイダーに対して、「ユーザーのプライベートメッセージをスキャンして児童の性的虐待コンテンツ(CSAM)を検出する義務」を負わせる規制を提案しました。CSAM検出システムの義務化によって利益を得る非営利団体の存在や活動資金の流れについて、東南ヨーロッパのジャーナリストが運営するウェブサイト・Balkan Insightが報じています。

‘Who Benefits?’ Inside the EU’s Fight over Scanning for Child Sex Content | Balkan Insight
https://balkaninsight.com/2023/09/25/who-benefits-inside-the-eus-fight-over-scanning-for-child-sex-content/

2022年5月に欧州委員会が提案した規制は、オンライン上でやり取りされているCSAMの検出義務を企業に負わせるもので、「チャット規制法」とも呼ばれています。この規制が施行された場合、オンラインサービスプロバイダーはすべてのチャットメッセージやメール、ファイル、ゲーム内チャット、ビデオ通話などをスキャンし、CSAMが含まれているかどうか監視する必要があるとのこと。

これは、実質的にエンドツーエンドの暗号化を無効にして、あらゆるメッセージがサービスプロバイダーに監視されることを意味するものです。そのため、専門家からは人々のプライバシーが侵害されてしまうと批判する声が上がっています。

児童の性的虐待防止を名目にオンラインサービスの暗号化を弱体化させる危険性をはらむEUの「チャット規制法」に批判の声 - GIGAZINE

多くの関係者へのインタビューや内部文書の調査を行ったBalkan Insightによると、欧州委員会の内務担当委員を務めている規制法案推進派のイルヴァ・ヨハンソン氏は、欧州委員会が法案を提出する数日前に、アメリカの「Thorn」という非営利団体に書簡を送付したとのこと。ThornはCSAMの拡散や児童の人身売買を防ぐための活動を行う団体であると同時に、「CSAMをオンラインでスキャンするためのAIツール」の開発も手がけています。

書簡の中でヨハンソン氏は、Thornの業務執行取締役であるジュリー・コルドゥア氏に対し、「私たちはこの提案までの道のりにおいて、多くの瞬間を共有してきました。今、提案の立ち上げを成功させるために皆さんの力が必要です」と述べ、規制法案への後押しを依頼したそうです。

チャット規制法の推進派とThornが協力することは不自然ではありませんが、「ThornはCSAM検出ツールを販売することで利益を得られる」という点にBalkan Insightは着目しています。ThornはEUのロビー団体データベースに「慈善団体」として登録されていますが、アメリカの国土安全保障省やChatGPTを開発したOpenAI、動画プラットフォームのVimeo、写真共有プラットフォオームのFlickrなど世界中の機関や企業にAIツールを販売しています。

もしチャット規制法が可決された場合、多種多様なオンラインプラットフォームにCSAM検出システムを実装することが義務づけられますが、ゼロからこうしたツールを開発することは困難です。そのため、すでにCSAM検出用のAIツールを開発しているThornなどの団体や企業にとって、チャット規制法が可決されることには大きな経済的メリットがあるというわけです。

なお、Thornの共同設立者である俳優のアシュトン・カッチャー氏は、長らくThornの対外的な顔として活動をしてきましたが、2023年にレイプの加害者として告発されたダニー・マスターソンを擁護する手紙を裁判所に提出していたことが判明。その後、2023年9月にThornの取締役会の会長を辞任しています。

Balkan Insightは、ヨハンソン氏がトップを務める内務総局とThornが交わした一連のメールの公開を、欧州委員会は長らく拒否してきたと指摘。その際には、Thornの「メールに含まれる情報を開示することは組織の商業的利益を損ねる可能性がある」という立場を引用していたそうです。最終的に欧州オンブズマンの介入と7カ月にわたる交渉もあり、欧州委員会はついに内務総局とThornが交わした一連のメールを公開しました。

公開されたメールを調査したBalkan Insightは、チャット規制法の展開から数カ月間にわたり欧州委員会とThornは継続的かつ緊密に協力しており、EU加盟国の大臣や代表者が出席する重要な意思決定の場にThornが招待されるよう促進していたと報じています。

なお、欧州オンブズマンは、欧州委員会がヨハンソン氏の提案に関するその他の多くの内部文書へのアクセスを拒否したことについて、さらに調査しているとのことです。

ヨーロッパで最も古いCSAMの通報ホットライン・Offlimitsの元ディレクターであるアルダ・ゲルケンス氏によると、Offlimitsはヨハンソン氏をオランダのオフィスに招待したものの、シリコンバレーや北米の企業ばかりを歴訪していたヨハンソン氏は結局一度もOfflimitsのオフィスを訪問しなかったとのこと。ゲルケンス氏は、「チャット規制法はNGOのふりをしながらハイテク企業の行動する団体に影響されています。Thornのような団体は、チャット規制法が児童性的虐待と戦うための一歩だと感じているだけでなく、そうすることで商業的な利益が得られるため、法案の提出にあらゆる手を尽くしています」と述べました。

暗号化チャットアプリ・Signalを開発する非営利団体のSignal Foundationで会長を務めるメレディス・ウィッタカー氏は、CSAMの問題を大きく取り上げるほど大手テクノロジー企業の「スキャンシステムを外注するインセンティブ」が高まるため、スキャンシステムを開発するAI企業は活発に動いていると指摘しています。ウィッタカー氏は、「法人格がどうであれ、児童搾取が実際には深い社会的・文化的問題であるにもかかわらず『オンライン』の問題だと宣伝し、その解決策として手っ取り早く収益性の高い技術的解決策を提案することで、自らの利益を追求していることは明らかです」「政府は、こうしたシステムがどれほど高価で失敗しやすいものか、そして一度限りのコストでは済まないものであることを理解していないのだと思います」とコメントしています。

また、Balkan InsightはThornがオンラインでの児童性的虐待の防止に取り組むオランダの財団・WeProtectに対し、2021年に21万9000ユーロ(約3400万円)もの寄付を行っていたことも突き止めました。WeProtectのメンバーにはさまざまな法執行機関や政府の関係者、巨大テクノロジー企業の幹部などに加え、ヨハンソン氏の腹心でありCSAM対策に取り組む欧州委員会のチームを率いるアントニオ・ヒメネス氏も含まれているとのこと。

ヒメネス氏が正式にWeProtectの取締役員に就任したのは2020年7月のことですが、それ以前の2019年12月の時点でヒメネス氏は取締役会の会議に参加していたことがわかっています。ヒメネス氏は2022年7月にチャット規制法についてWeProtectの取締役員に説明し、取締役会ではメディア戦略についての議論が交わされたそうです。また、欧州委員会はCSAM対策の一環としてWeProtectに資金提供を行っており、2020年～2023年にかけてヨハンソン氏率いる内務総局は約100万ユーロ(約1億6000万円)をWeProtectに提供したと、Balkan Insightは指摘しています。

さらに、WeProtectの取締役員にはアメリカ国務省の元職員であり、Oak Foundationという慈善団体グループの会長を務めるダグラス・グリフィス氏も名を連ねています。Oak Foundationは児童虐待に取り組むNGOを積極的に支援しており、WeProtectやThornに多額の資金提供を行っているほか、ヨハンソン氏が提案した法案を支持する市民社会組織やロビー団体のネットワークも支援しています。

Oak Foundationの支援によって立ち上げられた団体のひとつに、児童性的虐待の防止に取り組むため2022年に発足したBrave Movementが挙げられます。2022年11月に作られたBrave Movementの内部文書では、明確にヨハンソン氏のチャット規制法を支持する姿勢が打ち出されており、「チャット規制法を巡るBrave Movementの主な役割は、それがEU全体で可決・実施されるのを見届けることです」「この法案が採択されれば、他の国々にとって前向きな前例になるでしょう」と記されていたとのこと。

また、Brave Movementはチャット規制法に反対する批評家の影響力を弱めるため、「性的虐待の被害を経験したサバイバー」を利用したメディア戦略を構築したこともわかっています。内部文書によると、影響力の強い欧州議会議員とその出身国の性的虐待サバイバーを「ペア」にして、議員ごとに攻略していく戦略が立てられていたそうです。

また、ヨハンソン氏は「CSAM検出システムがその他の検閲に悪用されることはなく、プライバシーの侵害を引き起こさない」と主張していますが、この点についても疑問の声が上がっています。ジョンズ・ホプキンズ大学の暗号学専門家であるマシュー・グリーン氏は、「欧州委員会の最初の影響評価では、外部の科学的インプットがほとんどありませんでした」と述べ、AIによるスキャンツールがデジタルプラットフォームを危険にさらし、暗号化を損なう可能性があると指摘しています。

ケンブリッジ大学のセキュリティ工学教授であるロス・アンダーソン氏は、AIによるCSAMスキャンをめぐる議論が、法執行機関によって利用される可能性を見落としていると主張。「治安維持機関や情報機関のコミュニティは、子どもやテロといった議員を恐れさせる問題を使用し、いつもオンラインのプライバシーを弱体化させてきました。私たちは皆、これがどのように機能するのかを知っています。次のテロ攻撃が来た場合、スキャンの対象を児童性的虐待から深刻な暴力・政治犯罪に拡大することに反対できる議員はいないでしょう」と述べ、最終的にAIスキャンがその他の犯罪にも拡大される懸念を表明しました。