YouTubeのAIが資料価値のある戦争犯罪ムービーを「過激派の動画」として削除

By Ged Carroll

動画配信サービスのYouTubeは、サービス上に不適切なコンテンツが蔓延することを防ぐため、人工知能(AI)を駆使してコンテンツの検閲を行っています。このAIプログラムが中東の過激派コンテンツを大量に削除する中で、戦争犯罪を記録する資料的価値のある動画も同じように削除し始めたことで批判を受けています。

YouTube AI deletes war crime videos as 'extremist material' | Middle East Eye
http://www.middleeasteye.net/news/youtube-criticised-after-middle-east-video-taken-down-over-extremist-content-1244893230

中東の国々に関するニュースや動画を配信するMiddle East Eyeや、過激派組織の監視組織であるAirwars、オープンソースの調査サイトBellingcatなどがYouTube上に公開していた動画コンテンツが、コミュニティガイドラインに違反したということで削除されました。

コンテンツの削除は「YouTube上の過激派動画を見つけることができる」とGoogleが力説するAIプログラムが導入された翌日から始まったそうで、このAIプログラムの導入についてはGIGAZINEでも記事化しています。

YouTubeで機械学習システム導入により「暴力的過激主義」動画の75％がユーザーからの指摘以前に非公開へ - GIGAZINE

システムの導入後、アメリカ軍の機密情報をWikileaksへ漏洩したチェルシー・マニング元上等兵の裁判で証拠として使用された動画や、イスラム国による美術品の破壊行為を収めた動画などが、「過激派による動画」と判断されて削除されました。

2008年に開設されたシリア野党によるニュースサイトOrient Newsは、YouTubeアカウントごと削除されています。

Airwarsは動画が削除されたことについて「YouTubeが我々の3つの動画を削除した理由が分かりますか？我々には分かりません。2014年から100本を超える動画をアップしてきましたが、その中の3つが今週ブロックされてしまいました」とツイートし、問題提起しています。

削除された3つの動画のうち2つは以下の通り。

その後、削除された動画は復元されたそうですが、18歳以上でなければ視聴できいない動画に分類されたそうです。

YouTubeはMiddle East Eyeが公開していた「Drone footage by Islamic State shows suicide car attacks on Iraqi forces inside Mosul」「Video appears to show Egyptian soldiers carrying out extra-judicial killings」といった動画も削除しており、その理由について「コミュニティガイドライン違反または一時的なペナルティ」とメール上で説明したそうです。これらについてMiddle East EyeがYouTubeに異議申し立てを行ったところ、「コンテンツを見直した結果、あなたの動画はYouTubeのコミュニティガイドラインに違反していることを再確認できました」という返答があったそうで、動画の復元は実現しなかったとのこと。他のYouTubeアカウント上からも、インターネット上で比較的簡単に入手可能なイスラム国によるニムルドへの破壊行為を文章化したムービーや、アルカイダを特集したムービーなどが削除された模様。

YouTubeがAIを用いて過激派関連の動画を削除し始めたのは、アルカイダやイスラム国のような過激派グループによる動画コンテンツを配信しているとして批判を浴びていたため。この問題は想像以上に大きく、「不適切なコンテンツ」の隣に広告が表示されることを嫌って、2017年3月に主要企業がYouTube上での広告配信から撤退するにまで至っています。

過激派の動画コンテンツを根絶するべくYouTubeはAIを利用したコンテンツの検閲を始めたわけですが、公式ブログには「機械学習技術により、システムの精度は飛躍的に向上しました」「これらのツールは完璧なものではなく、すべての設定に適しているというわけでもありません。しかし、多くの場合で削除する必要がある動画を見つけ出すことにおいて、人間よりも正確なシステムであるという証明がされています」と、AIによる検閲の精度の高さがアピールされていました。

なお、YouTubeのアカウントはコミュニティガイドラインに違反する動画が3つあるとアカウントごと削除されるそうで、シリア内戦に関連する動画を公開していたYouTubeアカウントが削除されたのはこれが原因と考えられます。いくつかの動画には紛争につながるグラフィックイメージが含まれていましたが、ほとんどの動画は政治とインタビューに焦点を絞ったものであったそうです。

Airwarsのクリス・ウッド氏は、「現在起きていることはとても問題だと思います。シリアのアカウントの立場から見ると、これらの動画は6、7年分の内戦の様子を書きとめるものであり、戦争の最も重要な部分を記録したものです」とYouTube上から削除された動画の資料的価値を訴えています。