「児童ポルノを検出するためにメッセージやチャットを企業がスキャンする試み」に海賊党議員が猛反対

EUの立法機関である欧州議会は2021年7月6日、ウェブサービスを提供する企業に通信の機密性を求める法律を緩和し、児童虐待コンテンツを検出するためにSNSやメールをスキャンすることを認める法案を可決しました。この動きに対して欧州議会議員であるパトリック・ブレイヤー氏が、「メッセージやチャットの監視によってプライバシーが危険にさらされる」として、公式ウェブサイトで問題点について指摘しています。

Messaging and Chat Control – Patrick Breyer
https://www.patrick-breyer.de/en/posts/message-screening/

欧州議会は7月6日、電子通信プライバシー指令(2002/58/EC)の規制を一時的に緩和し、ウェブサービスを提供する企業が児童虐待コンテンツをスキャンすることを許可する法案を可決しました。この法案により、企業はメールやSNSでやり取りされるチャットや画像、動画などの通信をスキャンすることが可能となり、児童虐待を発見した場合は通信を差し止めて法執行機関に通報することができます。

SNSのやりとりに児童ポルノがないかを企業にチェックさせる法律がEUで可決、「かえって子どもを傷つける」との批判も - GIGAZINE

今回成立した法案はあくまで企業に対するスキャンの許可を与えるものであり、サービスを提供する企業に対し、児童ポルノに関するコンテンツのスキャンを行う義務を課すものではありません。しかし、2021年の秋に成立が予定されている追加法案では、関連する全ての企業に対してスクリーニングが義務化される方針だとのこと。

欧州議会議員の中からは、議論が拙速に行われたことを非難する声や、プライバシーやセキュリティ面での問題を指摘する声も上がっています。中でもインターネットの自由を掲げるドイツ海賊党に所属するブレイヤー氏は、「EU初の大規模監視に関する規制が採択されたことは、虐待の被害者や報道関係者など、自由で機密性の高いコミュニケーションを支持するすべての人々にとって悲しい出来事です」とコメントしています。

ブレイヤー氏は自身の公式ウェブサイトでも、EUにおけるメッセージやチャットの監視について警鐘を鳴らす記事を公開しています。この中でブレイヤー氏は、AIを用いた自動化されたプロセスにはエラーが発生しやすく、AIが疑わしいとみなしたコンテンツやメタデータが、人間の検証なしに民間組織や法執行機関に送られてしまうと指摘。自動化されたメッセージとチャットの監視が行われれば、デジタル通信の機密性が崩壊してしまうと主張しています。

さらにブレイヤー氏は、オランダ・ポーランド・ドイツ・イタリア・フランス・オーストリア・チェコ共和国・スペイン・スウェーデン・アイルランドに住む1万265人の市民を対象に、メッセージやチャットをスキャンして児童ポルノを検出するEUの計画について、賛成か反対かを問うアンケートを実施しています。その結果、回答者の72％が計画に反対していることも判明し、ブレイヤー氏はEU市民の大多数がEUの取り組みを支持していないと述べました。

ブレイヤー氏は、企業によるメッセージやチャットの監視が以下のような影響や懸念を引き起こすと述べています。

・チャットやメールの内容が全て、裁判所命令もなしに疑わしいコンテンツがないかどうか自動的に調べられてしまう。
・アルゴリズムがメッセージの内容を疑わしいと判断した場合、企業や法執行機関によってプライベートな写真を見る可能性がある。つまり、正当な合意で撮影したり保存したりした写真が第三者に見られてしまうかもしれない。
・子どもを誘うテキストを認識するフィルターは、親密な関係のカップルのやり取りに誤ってフラグを立てることが多いため、企業や法執行機関がプライベートなテキストを読む可能性がある。
・「海水浴で撮った家族写真」などに誤ってフラグが立てられ、罪のない一般人が捜査対象になる可能性がある。
・他国でも同様のスキャンが行われている場合、海外旅行の時に厳格なデータ保護規則がない国へデータが渡るかもしれない。
・メッセージをスクリーニングできるように安全な暗号化が削除された場合、ハッカーや諜報機関がメッセージの内容を盗み見る可能性がある。
・企業がメッセージやチャットの内容をスキャンできる前例を作ると、将来的に他の目的にも応用される可能性がある。たとえば、児童ポルノだけでなく著作権侵害や薬物乱用にも範囲が拡大したり、一部の国では反体制派や民主主義活動家の監視に使われたりするかもしれない。

また、今回の法案は児童の性的搾取を防ぐことが目的ですが、ブレイヤー氏は無差別なメッセージやチャットの監視が性的搾取の被害者の間でも物議を醸していると指摘。たとえば、「誰かに監視されている」ことがオンラインの安全な感覚を損ねてしまい、カウンセリングやサポートを求めることを思いとどまらせる可能性があるほか、企業の従業員や法執行機関の捜査官の手に性的な画像が渡ってしまう点も懸念されていると、ブレイヤー氏は述べています。

そこでブレイヤー氏は、性的搾取に対処するには民間人のメッセージやチャットを監視するのではなく、法執行能力の捜査能力やリソースを向上させるべきだと主張。また、性的搾取の被害者に対する支援を拡充するほか、子どもたちにオンラインの安全性について教育する機会を設け、事前に被害を予防するといった対策が必要だと述べました。

今回の法案はそれほどメディアの注目を浴びていないとブレイヤー氏は述べ、人々がこの問題について議員やメディア、企業に問い合わせたり、ソーシャルメディアで「#chatcontrol」「#secrecyofcorrespondence」などのハッシュタグを使って議論したりするように訴えています。

なお、近年では児童の性的搾取に対する取り組みの機運が高まっていることから、EUとは別にAppleも「iPhoneの写真やメッセージをスキャンして児童の性的搾取を防ぐ」と発表。メッセージアプリで送受信する画像やiCloudにアップロードした写真を調べる取り組みには、「ユーザーのプライバシーやセキュリティを損なう」との指摘が上がっており、Appleは一連の取り組みはプライバシーを損なうものではないと説明するFAQを公開しています。

Appleが「児童性的虐待資料検出はプライバシーを損なうものではない」とFAQを発表 - GIGAZINE