2021年04月16日 06時00分ネットサービス

ある日突然理由もなくYouTubeに投稿できなくなることがあるという事例

by BRICK 101

YouTube・Twitter・FacebookといったSNSにはポリシーがあり、ポリシー違反者にはコンテンツが投稿できなくなったりアカウントが削除されたりといった処理が行われます。しかし、このポリシー違反の判断には自動化されたシステムが利用されるため、誤ってポリシー違反と判断された人が正当な理由なく締め出されてしまうことも。あるセキュリティ研究者が、インターネット掲示板Redditで「正当な理由なくYouTubeでの投稿を禁じられ、しかもYouTubeと連絡が取れないため回復のめども立たない」という状態を明かしています。

Cannot post to YouTube for a week (got a strike) because I included link to legitimate PhD research on KRACK WPA2 vulnerability : privacy
https://www.reddit.com/r/privacy/comments/mq00n9/cannot_post_to_youtube_for_a_week_got_a_strike/

プライバシー＆セキュリティ研究者であるSun Knudsen氏は日常的にYouTubeやPeerTubeに投稿を行っていました。2020年12月、Knudsen氏はYouTubeからポリシー違反の警告メールを受け取ったとのこと。ポリシー違反と判断されたのは、「暗号化ソフトGnuPGを使ってメールを暗号化する方法」を解説した以下のムービー。

How to encrypt, sign and decrypt messages using GnuPG on macOS - YouTube

実際にYouTubeから送られてきたメールがコレ。

GnuPGの使用は危険でも有害でもないため、Knudsen氏は「正当な理由なく検閲された」と感じましたが、YouTubeのポリシー上、一度の警告では特に制限がないためKnudsen氏は引き続き投稿を行っていました。もちろん、Knudsen氏は2020年12月10日時点で「コンテンツ違反ではないにもかかわらず警告された」とYouTubeに異議申し立てを行いましたが、2021年4月になっても返事はないそうです。

そして4月14日付けで、Knudsen氏は新たな警告を受け取ったことを報告。これにより、YouTubeで1週間にわたってムービーを投稿できなくなったそうです。

警告の原因とされたのは、「攻撃者がWPA2を破る鍵再インストール攻撃」に関する研究についてのページ「https://www.krackattacks.com/」へのリンク。このページはポスドクのセキュリティ研究者が研究内容を公開したもので、Knudsen氏は「なぜ自分の家やその他のワイヤレスネットワークを信頼できないのか」というYouTubeムービーの概要欄にリンクを貼っていました。

有害でない内容の正規のページをリンクしているだけなので、YouTubeのポリシーには違反しないはずですが、これも12月の件と同様に、誤って警告の判断がされてしまったようです。しかも、異議申し立てについてYouTubeからの返答はないため、Knudsen氏のYouTubeアカウントは投稿回復のめどが立っていません。

「人類は人間による運用に戻らなければならないと強く思います。アルゴリズムを使ってコンテンツにフラグを立てるのは全く問題がありません。問題なのは、人が人とやりとりできない状態で、AIが正誤を判断することです」とKnudsen氏はコメントしました。

上記のようにな事態の発生は、2020年3月時点で予測されていました。2020年3月には新型コロナウイルス感染症(COVID-19)の影響でGoogle社員の多くがリモートになり、ポリシー違反の判断がこれまでの「人とAIによるもの」から「AI中心」に移ったためです。

新型コロナウイルスの影響でYouTubeでは間違って「ポリシー違反」と判断される動画が増える可能性がある - GIGAZINE