ネットサービス

ある日突然理由もなくYouTubeに投稿できなくなることがあるという事例

by BRICK 101

YouTube・Twitter・FacebookといったSNSにはポリシーがあり、ポリシー違反者にはコンテンツが投稿できなくなったりアカウントが削除されたりといった処理が行われます。しかし、このポリシー違反の判断には自動化されたシステムが利用されるため、誤ってポリシー違反と判断された人が正当な理由なく締め出されてしまうことも。あるセキュリティ研究者が、インターネット掲示板Redditで「正当な理由なくYouTubeでの投稿を禁じられ、しかもYouTubeと連絡が取れないため回復のめども立たない」という状態を明かしています。

Cannot post to YouTube for a week (got a strike) because I included link to legitimate PhD research on KRACK WPA2 vulnerability : privacy
https://www.reddit.com/r/privacy/comments/mq00n9/cannot_post_to_youtube_for_a_week_got_a_strike/

プライバシー&セキュリティ研究者であるSun Knudsen氏は日常的にYouTubePeerTubeに投稿を行っていました。2020年12月、Knudsen氏はYouTubeからポリシー違反の警告メールを受け取ったとのこと。ポリシー違反と判断されたのは、「暗号化ソフトGnuPGを使ってメールを暗号化する方法」を解説した以下のムービー。

How to encrypt, sign and decrypt messages using GnuPG on macOS - YouTube


実際にYouTubeから送られてきたメールがコレ。


GnuPGの使用は危険でも有害でもないため、Knudsen氏は「正当な理由なく検閲された」と感じましたが、YouTubeのポリシー上、一度の警告では特に制限がないためKnudsen氏は引き続き投稿を行っていました。もちろん、Knudsen氏は2020年12月10日時点で「コンテンツ違反ではないにもかかわらず警告された」とYouTubeに異議申し立てを行いましたが、2021年4月になっても返事はないそうです。

そして4月14日付けで、Knudsen氏は新たな警告を受け取ったことを報告。これにより、YouTubeで1週間にわたってムービーを投稿できなくなったそうです。


警告の原因とされたのは、「攻撃者がWPA2を破る鍵再インストール攻撃」に関する研究についてのページ「https://www.krackattacks.com/」へのリンク。このページはポスドクのセキュリティ研究者が研究内容を公開したもので、Knudsen氏は「なぜ自分の家やその他のワイヤレスネットワークを信頼できないのか」というYouTubeムービーの概要欄にリンクを貼っていました。

有害でない内容の正規のページをリンクしているだけなので、YouTubeのポリシーには違反しないはずですが、これも12月の件と同様に、誤って警告の判断がされてしまったようです。しかも、異議申し立てについてYouTubeからの返答はないため、Knudsen氏のYouTubeアカウントは投稿回復のめどが立っていません。

「人類は人間による運用に戻らなければならないと強く思います。アルゴリズムを使ってコンテンツにフラグを立てるのは全く問題がありません。問題なのは、人が人とやりとりできない状態で、AIが正誤を判断することです」とKnudsen氏はコメントしました。

上記のようにな事態の発生は、2020年3月時点で予測されていました。2020年3月には新型コロナウイルス感染症(COVID-19)の影響でGoogle社員の多くがリモートになり、ポリシー違反の判断がこれまでの「人とAIによるもの」から「AI中心」に移ったためです。

新型コロナウイルスの影響でYouTubeでは間違って「ポリシー違反」と判断される動画が増える可能性がある - GIGAZINE


またFacebookでも、小規模ビジネスでの利用者が自動システムに誤ってポリシー違反と判断され、アカウント停止となり、収益源を停止されたことが報告されています。

46億円支払ってFacebookにアカウント停止されたという記録 - GIGAZINE

この記事のタイトルとURLをコピーする

・関連記事
AIを人類にとって有益なものとして扱うために必要なこととは? - GIGAZINE

「AI」と「機械学習」は何がどのように違うのか?をわかりやすく解説するとこうなる - GIGAZINE

ただAIを使うだけでは無意味、AIから利益を生み出すためには「組織が学ぶこと」が必須という調査結果 - GIGAZINE

AIが文章を書けるようになったことで政治がゆがめられる危険性がでてきた - GIGAZINE

なぜAIは人間の脅威となり得るのか? - GIGAZINE

in ネットサービス,   動画,   セキュリティ, Posted by logq_fa

You can read the machine translated English article here.