Facebookがトレンドの人力選択を廃止してアルゴリズム完全制御で自動化したとたんにデマ記事を配信してしまう

Facebookでは、今話題のトピックをピックアップする機能「トレンド」が、編集者による手動選択からアルゴリズムを活用した自動ソートに変更されました。しかし、人間を排除する方針に変更したわずか3日後に、偽のニュースをトレンドの上位に表示するという大失態を犯しています。

Three days after removing human editors, Facebook is already trending fake news - The Washington Post
https://www.washingtonpost.com/news/the-intersect/wp/2016/08/29/a-fake-headline-about-megyn-kelly-was-trending-on-facebook/

Facebookのトレンドが人力ソートからアルゴリズムによる自動抽出に変更されたのは2016年8月26日から。2016年5月にFacebookの元・編集者から「Facebookのトレンドでのトピック選択では保守系ニュースが恣意的に排除されていた」という告発を受けたFacebookは、この報道後にそのような編集方針は存在しないと否定して、トピック選択に使っているサイトリストを公開するなど、トレンド機能の中立性を担保することに努めてきました。

この一連の騒動もありFacebookに対する中立性を求める声が強くなり、恣意的な操作の余地がないようにしなければいけないと考えたのか、Facebookはトレンドでトピックを選んでいたスタッフ19人を全員解雇し、2016年8月26日にトピック選択作業を完全自動化することを発表し、その運用が始まりました。

しかし、The Washington Postが報じるところによると、新方針での運用が始まって3日後の2016年8月29日に、トレンド上位に「Megyn Kelly」というフレーズが登場しました。Megyn Kelly氏はFox Newsのメインキャスターとして知られる人物です。

トレンドのフレーズはマウスオーバーすることで内容を確認できるようになっていますが、「Megyn Kelly」に表示されていたのは、「Fox NewsのMegyn Kellyキャスターが、ヒラリー・クリントン氏を支持していることを理由に番組を降板させられる」というもの。このトピックは、The Conservative 101 postに投稿された推測を元に書かれた憶測記事であり、事実に反するものだとのこと。

この事実と異なるトピックは8月29日の午前9時30分頃にリストから削除されるまで数時間トレンド上位に掲載されました。Facebookによると、トレンドのトピック選択では主にそのコンテンツに対する「コメントの多さ」や「勢い」を重視するアルゴリズムを採用しているとのこと。このため、急速に広まる根拠のないデマを話題のトピックに選んでしまったようです。Facebookはトレンドに掲載した情報が事実に反することを認めてトピックを削除していますが、トピックの選択をアルゴリズムで自動抽出する方針は変更していません。Facebookはトレンド機能の運用において、アルゴリズムをさらに改良する必要に迫られていそうです。