オンライン上の安全と言論の自由を左右するコンテンツ監視プロジェクト「GIFCT」が抱える問題とは？

近年、過激思想のグループやテロリストがSNSを拠点に活動するケースが増えており、ニュージーランドのクライストチャーチで起きた銃乱射事件では、犯人が襲撃の様子をFacebook上でライブストリーミングしていました。このようなSNS上に投稿されるテロ関連コンテンツの対策を行う、「テロ対策に関するグローバル・インターネット・フォーラム(Global Internet Forum to Counter Terrorism/GIFCT)」というプロジェクトの取り組みや問題点について、ニュースメディアのSLATEがまとめています。

The GIFCT is the future of content moderation.
https://slate.com/technology/2020/08/gifct-content-moderation-free-speech-online.html?scrolla=5eb6d68b7fedc32c19ef33b4

2019年10月、ドイツのハレにあるユダヤ教の会堂(シナゴーグ)が2人の反ユダヤ主義者によって襲撃され、2人が殺害される事件が発生しました。この事件では銃撃犯らが襲撃の様子をTwitchでライブストリーミングしており、およそ1時間にわたって動画がTwitch上に残り続けたとのこと。

しかし、この動画をダウンロードしたユーザーがFacebookやTwitter、YouTubeといったプラットフォームで動画を共有しようとしたところ、動画の共有が停止されました。これはTwitchが動画のデジタルフィンガープリントやハッシュをコピーし、ほかのプラットフォームと迅速に共有したことが理由だったそうです。Twitchによるハッシュ共有は、複数の民間企業によって構成されるGIFCTを介して行われました。

GIFCTはオンライン上でのテロ対策を行う目的で、2017年にFacebook、Microsoft、Twitter、YouTubeによって設立されました。一般にはほとんどGIFCTの存在は知られていませんが、人々の目が届かない場所でオンライン上での言論やコンテンツについて目を光らせ、重要な決定を行っています。

2017年にGIFCTが設立された背景には、2015年のパリ同時多発テロ事件や2016年のブリュッセル連続テロ事件があります。これらの事件をきっかけに、政府やEUの議員が「テクノロジー企業がオンライン上でのテロ対策に責任を負うべきだ」との圧力をかけた結果、さまざまなプラットフォーム間でコンテンツ削除の調整を行う目的でGIFCTが設立されました。

GIFCTは「暴力的なテロリストのイメージと宣伝」に関するデータベースを作成し、このデータベースを複数の企業で共有することで、それぞれのプラットフォーム上でのコンテンツ管理に役立てています。記事作成時点ではFacebookやTwitter、YouTube、Twitchなどを含む少なくとも11社がGIFCTのメンバーであり、さらに別の13社がGIFCTのデータベースにアクセスできるとのこと。

2019年9月、GIFCTは専門のスタッフを有する独立組織へ改組され、日本・アメリカ・イギリス・フランス・カナダなどを含む各国政府や国際機関、市民の代表からなる諮問委員会も結成されました。しかし、GIFCT内部の仕組みには不透明な点が多いとSLATEは指摘しています。たとえば、一種のブラックリストとして機能するGIFCTのデータベースを個々のプラットフォームがどのように使用するのか、最終的なコンテンツの削除がどういった仕組みで行われるのかはハッキリしていません。

複数のプラットフォームが提携するGIFCTのような仕組みは、オンライン上のプラットフォームが過激派のコンテンツに対抗する有効な手段ですが、そこには潜在的な危険があると主張する研究者もいます。ハーバード大学の研究者であるEvelyn Douek氏は、GIFCTの取り組みの内容が不透明であり、排除するコンテンツの決定について十分な監視がなされていないという問題点を指摘しています。

GIFCTは「暴力的な過激派」のスピーチやコンテンツの基準を秘密裏に設定しており、どのようなコンテンツがGIFCTのルールに違反しているのか、あるいは違反していないのかを説明していません。また、外部の研究者がGIFCTのデータベースにアクセスすることもできないため、単なる風刺や重大なテロ行為に関する周知されるべき情報、人権侵害に関する文書がGIFCTによって削除されている可能性も否定できないとのこと。

プラットフォームは独自のルールに基づくコンテンツの監視や排除を日常的に行っていますが、GIFCTでは中核をなす大規模なプラットフォームの決定が、末端に加わっている小規模なプラットフォームにも影響する点が違います。もちろん、小規模なプラットフォームはGIFCTが立てたフラグに基づきながら、自分たちの判断でコンテンツを残すこともできます。しかし、一般的に小規模なプラットフォームは十分なコンテンツ監視のリソースを持っていないため、GIFCTの推奨に従ってコンテンツを排除する場合が多いと考えられています。

諮問委員会の設立はGIFCTの作業をより民主的にする可能性がありますが、同時に「各国政府がGIFCTのコンテンツ監視に介入する」という危険もはらんでいるとのこと。2020年7月30日には、テクノロジーと個人の権利に関する非営利団体のCenter for Democracy and Technology(CDT)を含む権利団体が、「テロ対策プログラムと監視はイスラム教徒やアラブ人、そのほか世界中のグループの権利を侵害しており、市民社会を沈黙させるために政府によって使われてきました」と訴える書簡をGIFCTに送りました。

研究者らはGIFCTが持つ危険性について、検閲するコンテンツの内容などに関する透明性の向上が最も重要な課題だと考えています。2020年7月にGIFCTは透明性レポートを公表しましたが、スタンフォード大学の研究者であるDaphne Keller氏は、外部の研究者がGIFCTのブロックリストにアクセスできるように改善し、偏見や誤りが存在した場合に指摘できるシステムが必要だと訴えています。

Keller氏は、GIFCT設立の経緯が民主主義政府の要求に基づいたものであるように見えるものの、実際にGIFCTがどういった機関なのかは不透明だと指摘。GIFCTの設立は実際のところ、「法律ではない規則によって4つのプラットフォームが統合され、オンライン上の言論を制御する完全に不透明で強力なシステムが作成されたことを意味します」と、Keller氏は述べました。