YouTubeがデマ拡散を阻止するためコンテンツ停止・クロスプラットフォーム共有制限など3つの方針を発表

2022年1月に「YouTubeが誤情報やデマの温床と化している」と80以上のファクトチェック団体から抗議を受けたYouTubeが、デマ拡散防止のための新しい取り組みを発表しています。

Inside Responsibility: What’s next on our misinfo efforts
https://blog.youtube/inside-youtube/inside-responsibility-whats-next-on-our-misinfo-efforts/

YouTubeは過去5年間、The Four Rs of Responsibilityと呼ばれるフレームワークに多額の投資を行ってきました。これはヘイトスピーチなどの不適切なコンテンツを「削除(Remove)」「低減(Reduce)」し、信頼できるコンテンツを「向上(Raise)」「奨励(Reward)」するという取り組み。このフレームワークをベースに2019年には3カ月で10万本超のムービーと1万7000件のチャンネルが削除されました。

「The Four Rs of Responsibility」では、機械学習と人間の組み合わせを利用して、YouTubeのポリシーに違反したコンテンツを素早く削除し、信頼できるソースを作成し、問題のあるコンテンツの拡散を防ぐという活動が行われています。これによりYouTube上で表現の自由が維持されながら、不適切なコンテンツを目につかないように抑制することが可能になっているとのこと。それでも近年は新型コロナウイルス関連の誤報などさまざまなデマや誤情報が出回っているため、YouTubeのチーフプロダクトオフィサーであるニール・モハン氏は「我々のアプローチを進化させる必要が出てきました」と記しています。

YouTubeのプロダクトチームが新たに取り組もうとしている3つの課題が、「1：誤報が拡散される前に検出すること」「2：クロスプラットフォーム問題、誤報拡散への対応」「3：世界各地での誤報への取り組みを強化」という3つです。

◆1：誤報が拡散される前に検出すること
これまでは月面着陸に関する陰謀論や地球平面説など、比較的古くから流布されておりある程度コンテンツが揃った状態にある誤情報に対応するだけでよかったため、コンテンツのアーカイブを構築し、それと合致するものを削除するという形で簡単に誤情報の拡散を防止することができたそうです。しかし、近年は全く新しい誤情報が拡散されるようになっており、その一例が「新型コロナウイルスの流行は5Gが原因」といったデマです。新型コロナウイルス関連のデマについては、YouTubeはガイドラインを更新し、この種のコンテンツをポリシー違反とすることで対応しました。

YouTubeが「5Gが新型コロナウイルスの感染拡大に寄与している」という陰謀論を唱えるコンテンツを制限すると発表 - GIGAZINE

しかし、将来登場するであろう新しいデマに対応するには、現状のシステムだけでは不十分ということで、YouTubeは最新データに関する継続的なトレーニングをシステムに施していることを明かしています。具体的には分類子、追加言語によるキーワード、地域分析から得た情報などの組み合わせを活用することで、メインの分類子では検出できないようなコンテンツを検出できるようにすることを目指しているとのこと。

この誤報拡散防止対策に加えて、YouTubeは検索結果に信頼できるコンテンツを表示することでユーザーを誤報やデマから守ることを検討しています。ただし、特定のトピックの場合、信頼できるコンテンツが不足しているというケースもあります。そこで、自然災害などの主要なニュース関連の検索結果には、テキストベースの記事を推奨表示することで信頼できるコンテンツを提供する予定だそうです。

また、ニッチなトピックの場合は視聴者にファクトチェックを表示することで、信頼できるコンテンツか否かをユーザーが判断しやすくすることが検討されています。ただし、すべてのトピックをファクトチェックすることは困難であるため、信頼できるコンテンツか否かの判断が難しいものには警告文が表示されることとなるそうです。

◆2：クロスプラットフォーム問題、誤報拡散への対応
さらなる問題は、YouTube上にアップロードされた誤情報を含む動画をYouTube以外のプラットフォームに拡散するという問題に対するアプローチです。特に、「削除に関するポリシーに違反していないものの、他人に推奨すべきではないコンテンツ」のような、いわゆるグレーゾーンにあるコンテンツへの対処法が大きな課題となっているとのこと。この種のコンテンツは境界線上のコンテンツと呼ばれているのですが、YouTubeはレコメンデーションシステムで境界線上のコンテンツが表示される割合を1％未満にまで減らしたとしています。

その他、境界線上のコンテンツへの対処法としては共有ボタンを無効にすることや、ムービーへのリンクを削除することなどが挙げられます。ただし、これらを実行してしまうと視聴者の自由を制限してしまうこととなるため、YouTubeは行き過ぎた対応になっていないかを慎重に検討しながら対応を進めているとしています。

また、研究論文や報道などで境界線上のコンテンツが取り上げられるケースもあり、YouTubeはそのようなデリケートで物議をかもすトピックに関する議論の場を確保することも重要であるとして、一部のコンテンツを例外的に扱うことについても検討しています。

加えて、境界線上のコンテンツが再生される際に、警告文を表示することで視聴者側に誤った情報を含むものである可能性を示唆するという取り組みも検討されています。

◆3：世界各地での誤報への取り組みを強化
YouTubeは100以上の国、数十以上の言語でサービスを提供しているため、上記の取り組みがいかに成果を上げているといえども、まだまだ複雑さは残っているそうです。

例えばイギリスではBBCのような公共放送は信頼できる情報源として扱われますが、別の地域では公共放送が政府のプロバガンダに基づく信頼できない情報として扱われます。また、メディアの報道に対して厳格なファクトチェックを実施している国もあれば、監視や検証がほとんどない国も存在します。

このような地域ごとの多様性に対応しながら何が誤情報で何が正しい情報なのかを判断するために、YouTubeは世界中の専門家や非政府組織とのパートナーシップにさらなる投資を行うことを検討しています。加えて、「1：誤報が拡散される前に検出すること」の取り組みで挙げられたコンテンツ検出システムにローカル言語をサポートさせることで、地域ごとの誤情報を検出するためのモデル構築に取り組んでいくとしています。