Facebookがポルノやヘイトスピーチなど不快なコンテンツを自動検知する技術の特許を申請、ウソのニュース排除に活用できる可能性も

By Charis Tsevis

Facebookが2015年6月に申請した特許が公開されました。公開された特許の技術は、ポルノやヘイトスピーチといったユーザーを不快にするコンテンツを自動で検知するシステムで、この技術を使えばFacebook上でシェアされるウソのニュースを自動で検知できる可能性が指摘されています。

Patent Images
http://pdfaiw.uspto.gov/.aiw?PageNum=0&docid=20160350675&IDKey=B0738725A3CA

公開された特許「Patent 0350675」よれば、Facebookが申請したのは「Objectable Material(人を不快にするコンテンツ)を検知するシステム」で、機械学習を用いて不快なコンテンツに対する排除システムを効率化し、時間の経過とともに不快なコンテンツの共通点を学習し、排除するべきコンテンツについて推測を可能にするというものです。

Facebookが特許で幾度となく言及している「Objectable Material」は、「ポルノ・ヘイトスピーチ・ネットいじめ・違法性のあるコンテンツやこれらに類似するもの」と特許内で定義されています。Facebookは読者に不快な思いをさせるコンテンツの排除に以前から取り組んでおり、コミュニティ規定を設けてユーザーの安全確保に努めています。

コミュニティ規定 | Facebook
https://www.facebook.com/communitystandards#bullying-and-harassment

今回申請が判明したFacebookの特許は、ポルノやヘイトスピーチ、ネットいじめなどに対する技術と言及されている一方で、ITニュースサイトのThe VergeやEngadgetは特許の技術が近年問題になっているウソのニュースの拡散を防止するツールになり得ると論じています。

特定の画像やワードを含むポルノやヘイトスピーチなどとは違い、多種多様な情報を含むウソのニュースを自動で検知するのが難しいというのは事実です。しかし、The Vergeによれば、Facebookの特許で言及されている「不快なコンテンツを報告した人の記録」「プロフィールの確認」「不快なコンテンツをレポートした人の数」「レポートしたユーザーのアカウント年齢(アカウント開設からレポート報告までの期間)」といった、機械学習で不快なコンテンツの共通点を学習するときの指標となる要素は、ウソのニュースを自動で見分けるのに役立つ可能性があるとのこと。

Facebookのマーク・ザッカーバーグCEOは、アメリカ大統領選挙時に多くのデマ情報がFacebookでシェアされ選挙結果に影響を及ぼしたという報告を受けて、「ウソのニュースを報告し排除する機能は動作していて、サービス上で表示されている99％のニュースは信ぴょう性があるものであり、選挙結果に大きな影響を与えたとは考えにくい。しかし、残りの1％のウソのニュースを排除し、ユーザーに正しい情報を届けるのが我々の目標です」という旨のコメントを11月12日に公開し、さらに、ウソのニュースへの対応策としてFacebookが取り組んでいるプロジェクトを明らかにしました。その中では「ウソのニュースを見分けるのには、ユーザーが報告する前にウソのニュースを検知するためのより良いシステムが必要になる」と述べていました。

The VergeはザッカーバーグCEOが述べた「ユーザーが報告する前にウソのニュースを検知するためのより良いシステム」が、今回明らかになった特許技術のことではないか予想していますが、Facebookの広報は「弊社は特許を取得しても、その技術を採用しないことが多々あり、今回の特許が弊社の今後のプランを示すものではありません」とThe Vergeに返答したそうです。