ネットサービスの「オススメ機能」のアルゴリズムが人々に大きな影響を与えているとの指摘

NetflixやYouTubeなどのコンテンツを見終わった後に表示される、「次に見ることをオススメするムービー」をクリックしたことがある人は多いはず。こうしたリコメンド機能のようなアルゴリズムが人々に与える影響について、専門家がさまざまな事例を元に解説しています。

Do social media algorithms erode our ability to make decisions freely? The jury is out
https://theconversation.com/do-social-media-algorithms-erode-our-ability-to-make-decisions-freely-the-jury-is-out-140729

オーストラリア・アデレード大学で数学の講師を務めるルイス・ミッチェル氏と、アメリカのバーモント大学の統計学准教授ジェームズ・バグロウ氏は、ネットサービスのリコメンド機能を「レシピ」と例えます。ただし、このレシピは食材からおいしい料理を作り上げるものではなく、「人々に関するデータ」から「より良い広告収入」を生み出すためのものです。

ソーシャルメディアを運営する大手IT企業にとって、オンライン上で人々に関するデータを収集することは極めて容易です。例えば、ミッチェル氏らが2019年に実施した研究では、「あるTwitterユーザーの友人8～9人のツイートを分析すれば、本人のアカウントのデータを直接解析するのと同じ精度でツイートの内容を予測することが可能」と判明しています。

そのことを示す図が以下。グラフの縦軸は予測可能性を、横軸は解析に使用するデータの提供者となる友人の数をそれぞれ示しており、友人が8人のところで折れ線が本人のデータを直接使用した場合を示す黒の点線と交わっています。この結果について、ミッチェル氏らは「まるでTwitterユーザー本人のデータを使用したかのように、アルゴリズムがTwitterユーザーの将来の投稿を予測するには、友だちが8～9人もいれば十分です」と述べています。

また、Facebookは「シャドープロファイル」と呼ばれる非Facebookユーザーのプロファイルを作成しています。そのため、ミッチェル氏らは「もしあなたがFacebookに登録したことがなくても、友だちがFacebookを使っていればプロファイルは作られている可能性があります」と指摘しました。

ソーシャルメディアがデータを収集しているのは、単なるプライバシーの問題だけでなく、リコメンド機能を通じてユーザーがどんどん過激なコンテンツに駆り立てられてしまうといった問題を招いています。

YouTubeでリコメンド機能に携わっていた経験のあるプログラマーのギヨーム・シャスロット氏は、「YouTubeはより多くの時間を空費させることを目的にゆがめられています。YouTubeでは総再生数こそが全てだと考えられていて、そのほかのことは全て些細なことだと見なされました」と証言。再生数を伸ばしたり、ユーザーを増やしたりするために使われているアルゴリズムが過激化を招き、自殺者の遺体を映したムービーを投稿するといった暴挙の遠因になっているとの見方を示しました。

世界中で大炎上中のYouTuberローガン・ポールは日本で一体何をしでかしたのか？ - GIGAZINE

また、Facebookのユーザー約70万人を対象にした2014年の大規模調査では、「肯定的な投稿を見ると肯定的な投稿をし、否定的な投稿を見ると否定的な投稿をする」という「感情的伝染」があることが判明しています。このことから、ミッチェル氏らは「Facebookのニュースフィードのアルゴリズムは、コンテンツをランク付けして表示することで、プラットフォームに対する私たちの関心を維持しています」と指摘しました。

しかし、ソーシャルメディアに見られる弊害が全てアルゴリズムのせいだというわけではありません。Twitterにおけるフェイクニュースの拡散に注目した2018年の研究では、「フェイクニュースを拡散するのはボットではなく普通の人」だということも分かっています。

こうした事例を踏まえて、ミッチェル氏らは「結局のところ、あらゆるアルゴリズムの背後には人間がいます。アルゴリズムが私たちに影響を与えるのと同じように、私たちもアルゴリズムに影響を与えているのです」と述べて、リコメンド機能のアルゴリズムの影響やその問題は、アルゴリズムを使用する人間次第だと結論付けました。