「Instagramが自殺への考えを悪化させる」という内部情報のリーク者が身元を明かす

Facebookは「Instagramが10代の少年少女にとって有害である」という調査結果を認識していながらも隠していたということが内部文書から明らかになり、大きく批判されています。これまで内部情報をリークした人物は匿名とされていたのですが、その人物が身元を明かし、「何がFacebookの根本的な問題なのか」についてインタビューで答えています。

Frances Haugen
https://www.franceshaugen.com/

Whistleblower: Facebook is misleading the public on progress against hate speech, violence, misinformation - 60 Minutes - CBS News
https://www.cbsnews.com/news/facebook-whistleblower-misinformation-public-60-minutes-2021-10-03/

The Facebook Whistleblower, Frances Haugen, Says She Wants to Fix the Company, Not Harm It - WSJ
https://www.wsj.com/articles/facebook-whistleblower-frances-haugen-says-she-wants-to-fix-the-company-not-harm-it-11633304122

2021年9月14日、ウォール・ストリート・ジャーナルはFacebookが「Instagramは10代の若者にとって有害」と認識しながらも情報を隠し、「SNSを使用することでメンタルヘルスに有益な可能性がある」と発信しつづけていたことを報じました。このニュースをきっかけにFacebookへの批判は強まり、連邦議会の上院商業委員会が調査に乗り出したほか、開発が予定されていた「子ども向けInstagram」のプロジェクトは凍結しています。

ウォール・ストリート・ジャーナルの報道は、内部告発者が流出させた文書を情報源としていました。これまで内部告発者は匿名だったのですが、10月3日にアメリカで放送された「60ミニッツ」という番組の中で、内部告発者が身元を明かにしました。

情報をリークしたのは、FacebookでCivic Misinformationチームのプロダクトマネージャーを務めていたFrances Haugen氏。Haugen氏はコンピューターエンジニアリングの学位取得後にハーバード大学でビジネスの修士号を取得し、Pinterest、Yelp、Googleなどでプロダクトマネージャーを経て、2019年にFacebookに入社。Haugen氏はインターネットで拡散された陰謀論が原因で友人を失った経験から、「誤情報への対処にあたれる」という条件付きで入社を決めたそうです。

Haugen氏はインタビューの中で、「Facebookでは、『人々にとって良いもの』と「Facebookにとって良いもの』の間で利害の衝突が起こるところを何度も目にしてきました。その度にFacebookは『お金を生み出すこと』といった自社の利益への最適化を選択してきました」と語りました。

Haugen氏によると、Facebookの問題の根本は、2018年に行われたアルゴリズム変更にあるとのこと。Facebookのアプリ内では「ユーザーに何を表示させるか」が、常にアルゴリズムによって計算されています。2018年の変更によってFacebookのアルゴリズムは「ユーザーの反応が大きいコンテンツ」を優先的に表示させるようになったのですが、このとき問題なのは、過去の研究から「人々を二極化させたり分裂させたりする有害なコンテンツの方が、人の感情を引き出しやすく、ユーザーの反応が大きくなる」と示されていることです。

ソーシャルネットワーク上で最も影響力のある感情は「怒り」 - GIGAZINE

By ocean.flynn

逆にいうと、上記のようなコンテンツを促進しないようにアルゴリズムを設計すれば安全性は増すのですが、人々がFacebookに費やす時間や広告のクリック数が減少し、Facebookの収益が減少します。このことをFacebookは認識しているため、2020年の大統領選にのみ、一時的に誤情報を減らすための安全システムを機能させました。選挙が終わるとすぐに安全システムが解除されたことから、「Facebookは安全よりも自社の成長を優先させた」とHaugen氏は述べています。

なお、マーク・ザッカーバーグCEOはアルゴリズムの変更当時、新しいアルゴリズムが「人々が気になる人々と交流する機会を増やすもの」であると説明していました。

Bringing People Closer Together - About Facebook
https://about.fb.com/news/2018/01/news-feed-fyi-bringing-people-closer-together/

Haugen氏はFacebookの利害対立は他のどの企業よりもひどい状況だったとしつつも、「マークには同情しています。彼が有害なプラットフォームを作ろうとしたことはありません。ただ彼は、副作用が生まれる選択肢を許容し、この選択肢が有害で二極化を生み出すコンテンツを広く拡散させてしまったのです」と述べています。

Haugen氏は、Facebook外部の人が誰も知らない事実を社内で抱え続けてきました。Haugen氏の他にも状況を改善しようと戦う人は何人もいたそうですが、誰も改善することができないという状況を見て、Haugen氏は内部文書を外部に公開することを決意。情報のリークに関してHaugen氏はFacebookから「情報を盗み出した」と訴えられるリスクがありますが、Haugen氏の弁護士はドッド＝フランク・ウォール街改革・消費者保護法によって保護されると主張しています。

なお、Facebookは60 Minutesへのインタビューには応じず、「私たちは毎日、何十億人もの人々がオープンに自己表現する権利を守ることと、プラットフォームを安全でポジティブな場所に保つことの間でバランスを取らなければなりません。私たちは有害なコンテンツや誤情報の拡散を防ぐ戦いにおいて大きな改善をみせており、私たちが悪いコンテンツを促進し何も取り組みを行っていないという主張は事実ではありません」「これらの複雑な問題に対する正確な解決策を示す研究があれば、テクノロジー業界や政府、社会は、はるか昔に問題を解決していたことでしょう」と声明を発表しました。