「Facebookのアルゴリズムが人々の分断を促している」という内部レポートをFacebook幹部が無視していた

近年ではSNS上での政治的な活動や対立が広く見られ、時にはユーザー間の対立や二極化が加速して問題が起きることもあります。ウォール・ストリート・ジャーナルは、2018年にFacebook幹部へ提出された内部レポートが「Facebookのアルゴリズムが人々の分断を促している」と指摘していたものの、幹部はこのレポートを無視して問題解決を先送りにしたと報じました。

Facebook Executives Shut Down Efforts to Make the Site Less Divisive - WSJ
https://www.wsj.com/articles/facebook-knows-it-encourages-division-top-executives-nixed-solutions-11590507499

Internal Facebook report found algorithms drove people apart: report | TheHill
https://thehill.com/policy/technology/499611-internal-facebook-report-found-algorithms-drove-people-apart-report

Facebook reportedly ignored its own research showing algorithms divided users - The Verge
https://www.theverge.com/2020/5/26/21270659/facebook-division-news-feed-algorithms

Facebookはユーザーの興味や関心を追跡することで、適切なユーザーにターゲット広告を配信したり、オススメのFacebookグループを紹介したりするアルゴリズムを構築しています。このアルゴリズムは政治的な活動に利用されることもあり、2019年には「『ナチス』や『白人至上主義』に関心を持つユーザーをターゲットにした広告配信が行われている」と報じられています。

Facebookはナチスや白人至上主義に興味を持つユーザーを特定してターゲット広告の表示に利用している - GIGAZINE

by www.shopcatalog.com

2018年にFacebook幹部へ提出された内部レポートでは、「私たちのアルゴリズムは分裂に引きつけられる人間の脳につけ込みます」と指摘されていたとのこと。レポートを制作したグループは、Facebookの推奨アルゴリズムが「ユーザーの注意を引いてプラットフォームに費やす時間を増やすために、よりユーザー間の分裂を促すコンテンツを提供する」ことを発見していたと、ウォール・ストリート・ジャーナルは報じています。

これ以前にも、Facebookがユーザーの政治的なイデオロギーを煽って、分断を加速させていると指摘されていました。2016年のレポートでは、ドイツのFacebookユーザーが参加する大きな政治的Facebookグループのうち、3分の1以上で過激なコンテンツが頻繁に投稿されていることがわかりました。過激なFacebookグループは人種差別主義者や陰謀論者、親ロシア的なコンテンツにあふれており、参加しているユーザーたちは積極的に発言する一部のユーザーに大きな影響を受けていたそうです。

こうした政治的に過激なFacebookグループの成長を促していたのは、Facebookのアルゴリズムが原因だったと2016年のレポートは述べています。レポートでは「これらの過激なグループの参加者のうち、全体の64％はFacebookの推奨ツールによって参加した」と述べられており、プラットフォームがユーザーに適したグループをオススメするアルゴリズムが、過激なFacebookグループのユーザー数増加に寄与していたそうです。Facebookの従業員によれば、この問題はドイツに特有のものではないとのこと。

Facebookのアルゴリズムに関するこれらの懸念を軽視し、二極化の解消からFacebookの焦点を遠ざける取り組みを先導したと非難されているのが、Facebookのジョエル・カプラン公共政策担当副社長です。カプラン氏は第43代アメリカ大統領であるジョージ・W・ブッシュ政権下で副首席補佐官を務めた人物であり、堅固な右派政治家であることで知られています。

カプラン氏はFacebookにおける政治的な問題を解消する取り組みにおいて、保守派の人々をなだめ、「リベラルに肩入れしている」との批判を避ける役割を持っていると指摘されています。たとえばカプラン氏はFacebookの政治広告ポリシーにおいて重要な役割を担っているとされており、2020年にFacebookが発表した「政治広告を掲載し続ける方針」にも影響を与えたとのこと。

ウォール・ストリート・ジャーナルは、党派的な活動を積極的に行う「super-sharers」と呼ばれるユーザーやボットの影響力を弱めるアプローチに対し、カプラン氏が反対して弱体化させたと指摘。また、カプラン氏は政治的に中立なコンテンツで人々を結び付け、政治的な二極化を促すコンテンツを宣伝しないようにする「Common Ground」という取り組みにも反対し、プロジェクトは停止されてしまいました。

Facebookの広報担当者はThe Vergeに対し、「私たちは2016年のアメリカ大統領選挙に関する問題から多くを学んでおり、もはや当時と同じ会社ではありません。堅牢で誠実なチームを構築し、ポリシーと取り組みを強化して有害なコンテンツを制限し、プラットフォームが社会に与える影響を調査して理解し、改善を続けています。ちょうど2020年2月にも、二極化に関する独立した研究をサポートするために200万ドル(約2億1500万円)の資金を提供すると発表しました」と述べたとのことです。