2025年06月29日 08時00分メモ

アルゴリズムが銃乱射犯の思想を過激化させた場合Metaや4chanといったプラットフォームは責任を負うべきなのか？

ニューヨーク州バッファローで発生した銃乱射事件の被害者を代理する弁護士たちが、「Meta、Amazon、Google、Discord、4chanなど約10社のソーシャルメディア企業は、犯人の思想を過激化させた責任を負う必要がある」と主張して訴訟を提起しました。「これらの企業がユーザーにコンテンツをおすすめする『アルゴリズム』が、犯人の思想を過激化させた」という主張が認められるかどうかに注目が集まる中、テクノロジー系メディアのThe Vergeが経緯をまとめています。

If algorithms radicalized the Buffalo mass shooter, are companies to blame? | The Verge
https://www.theverge.com/policy/674869/buffalo-shooting-lawsuit-meta-reddit-4chan-google-amazon-section-230-everytown

問題の事件は2022年にバッファローのスーパーマーケットで発生しました。犯人は当時18歳だったペイトン・ゲンドロンという人物で、ゲンドロンは自宅からスーパーマーケットまで数時間かけて車で訪れ、買い物客に対して発砲し、10人を殺害し、3人を負傷させました。

陰惨な事件であることに加え、ゲンドロンが配信サービスのTwitchで犯行の様子をライブ配信していたこと、チャットサービスのDiscordに「人種差別的なミームに触発されて過激化し、意図的に黒人が多数派を占めるコミュニティを標的にした」とする長文の犯行声明と日記をしたためていたことが判明したため、世間の注目を集めました。

この事件を巡り、銃による暴力を終わらせるために活動している非営利団体のEverytown for Gun Safetyが、銃販売業者、ゲンドロンの両親、および多数のウェブプラットフォームを相手取り、2023年に2件の訴訟を提起しました。

原告の主張は、YouTubeなどに存在する「おすすめ」アルゴリズムやユーザーの興味関心をあおるように設計されたプラットフォームは、犯人の思想形成に著しく影響を与えており、プラットフォームの責任は免れないというものです。被告となったDiscordや4chanなどいくつかのプラットフォームは個々のユーザー向けにカスタマイズされるおすすめアルゴリズムは持っていませんが、原告はこれらのプラットフォームに対しても「ユーザーを引きつけるように意図されたサービス設計であり、危害を招くことは予測できる」と主張しています。

実際、ゲンドロンは4chanの影響を受けたことを認めており、犯行声明にも4chanからの引用が多分に含まれていたことがわかっています。

ゲンドロンは2022年に殺人罪とテロリズム罪で有罪判決を受け、終身刑で服役中ですが、問題はプラットフォームに問題があったのかという点です。

通常、こうした訴訟ではアメリカの通信品位法第230条が取り上げられます。通信品位法第230条は、サービスを提供するプロバイダは第三者が発信する情報について原則として責任を負わないとする法律で、この法律はしばしばソーシャルメディア企業に有利に働くことがあります。例えばInstagramのユーザーがプラットフォームでいじめを受けたとして訴えを起こした件では、あくまで投稿を発信したのは第三者であるとして、Instagramの責任は免除されています。

原告もこの点を理解しており、訴訟の争点は投稿されたコンテンツに対する責任ではなく、プラットフォームがユーザーを引きつけるためにコンテンツを絶えず提供した責任であると主張しています。「人種差別的、白人至上主義的、または暴力的なコンテンツを表示することが違法だ」と主張しているわけではありません。この主張だと、通信品位法第230条を根拠に却下する材料を与えてしまうためです。

原告は、アルゴリズムが「製品」であり「特許が取られている」という点を強調しています。おすすめアルゴリズムやユーザーを引きつける製品設計は「危険で安全でない」ため、ニューヨーク州の製品責任法に基づき「欠陥品」に該当し、消費者が損害賠償を請求できるという主張です。

例えばYouTubeは、他のソーシャルメディアサイトよりアルゴリズムの依存性が高く、白人至上主義コンテンツを容認するという運営体制のせいでプラットフォームの安全が保たれていない可能性があると原告は主張しています。原告はこの点について「もっと安全な設計にできたのに、ユーザーエンゲージメントと利益を最大化するため、危険性が軽減されなかった」と指摘しました。

Twitchについては、「アルゴリズム生成に依存しないため、動画を遅延ありで表示して依存度を減らせるはず」という点が原告の主張。Redditでは投稿に対する投票機能がある点を取り上げて「Redditの利用を促進するループを生み出す」と指摘し、アカウント登録なしで利用できる4chanは「匿名で過激なコンテンツを投稿できる」という設計に欠陥があるとしています。

一方で、企業側は自らに責任はないと反論しています。アルゴリズムは確かにユーザーごとに表示するコンテンツを設定しますが、これらは法的には「製品」ではないという主張です。Metaの弁護を務めるエリック・シュムスキー氏は「サービスはユーザーの行動に基づいて体験をカスタマイズします。アルゴリズムがゲンドロンに影響を与えた可能性はありますが、ゲンドロンの信念もアルゴリズムに影響を与えたのです」と述べました。

今回の裁判と似たようなケースとして、Gonzalez対Google裁判という有名な判例があります。これは、イスラム国(ISIS)が2015年11月に行ったテロ攻撃の犠牲者であるノヘミ・ゴンザレスさんの遺族が起こした裁判で、原告は「YouTubeがテロリスト集団の動画をユーザーにおすすめすることでISISを支援した」としてGoogleを訴えていました。この件でもやはりアルゴリズムが通信品位法第230条によってどう解釈されるかが争点となり、多数の議論を引き起こしましたが、最高裁判所は「被告らが問題の攻撃においてISISを支援したことを十分に立証できておらず、通信品位法第230条以前の問題だ」として、同法の解釈を検討することなく訴えを棄却しています。