新型コロナウイルスの影響でYouTubeでは間違って「ポリシー違反」と判断される動画が増える可能性がある

新型コロナウイルス感染症(COVID-19)の流行を受けてアメリカでは国家非常事態宣言が出され、3月13日にニューヨーク市は公共交通機関の運休や道路の閉鎖、夜間外出禁止令などを発表しました。多くの企業が在宅勤務を推奨しており、Googleも例外ではないのですが、人間の従業員が出社できなくなったことによりYouTubeのコンテンツ監視がAI頼りになるため、間違ったポリシー違反の判断が増える可能性があるとのことです。

YouTube Creator Blog: Protecting our extended workforce and the community
https://youtube-creators.googleblog.com/2020/03/protecting-our-extended-workforce-and.html

Actions to reduce the need for people to come into our offices
https://blog.google/inside-google/company-announcements/update-extended-workforce-covid-19

YouTube will rely more on AI moderation while human reviewers can’t come to the office - The Verge
https://www.theverge.com/2020/3/16/21182011/youtube-ai-moderation-coronavirus-video-removal-increase-warning

新型コロナウイルスの流行を受け、Google・Amazon・Apple・Microsoft・Facebookなど多くの企業が従業員に対し在宅勤務を推奨しています。この結果、Googleではアメリカとカナダにある26オフィスに勤務する10万人以上の従業員が在宅勤務する形となっています。

新型コロナウイルス対策でGoogleが北米の全従業員に在宅勤務を要請 - GIGAZINE

Googleは2020年3月16日付のブログで、Googleの製品が引き続き問題なく動作することを保証しながら、従業員がオフィスにくる必要性を減らす取り組みについてを公開。この取り組みの中には「リモートアクセス」「ワークフローの順位付け」「自動化の増加」「シフトの調整」などが挙げられています。

このうち「自動化の増加」について、Googleは「YouTubeのようなプラットフォームのコンテンツをレビューするために、私たちは人間と機械の両方を使ってきました。今回の状況を受けて、私たちは人間の従業員がオフィスにくる機会を減らすべく、一時的にですが、より自動化されたシステムに重きを置いています。私たちの目標は引き続き、コミュニティガイドラインやポリシーに違反するコンテンツを即座に取り除くことです」と述べています。

つまり、YouTubeではコンテンツ監視を行うモデレーターとして、今後しばらくはAIがメインになるということ。このため、削除されるムービーは純粋にAIがフラグをつけたものになり、コンテンツの分析が人間が行うよりも不正確になる可能性があります。人間の従業員の関わりが少ない期間は、ポリシー違反ではないコンテンツを含め、削除対象として分類されるコンテンツが増加する可能性がある、とGoogleは述べました。ただし、高確率でポリシー違反のコンテンツを除き、「多くはAIによって削除されることにはならないだろう」とGoogleは予測しています。

また、YouTubeではクリエイターが「間違ってコンテンツが削除されている」と思った場合に異議申し立てを行うことができますが、この期間中は異議申し立てに対する反応も遅れる可能性があるとのこと。

Googleは上記の取り組みによって混乱が生まれる可能性を認めつつも、「YouTubeを安全に保つために働く人にとって、そしてより広い範囲のコミュニティにとって、これが正しいことであると考えています」と述べました。

なお、The InterceptとThe Irish Timesレポートによると、Facebookは3月13日・14日時点でモデレーターのオフィス勤務を続けているとのことです。