2024年の1年間でBlueskyユーザー数は289万人から2594万人に爆増、モデレーターによるアカウント削除件数は6万6308件で日本からの要請にも対応などモデレーション報告総まとめ

2024年2月に招待制を廃止して誰でもユーザー登録ができるようになったBlueskyのユーザー数は、1年間で289万人から2594万人に増加しました。ユーザー数の増加に伴い有害なコンテンツも増加するため、Blueskyはモデレーションチームを25人から約100人に増員したことを明らかにしています。このほか、2024年にBluesky上で行われたモデレーションの取り組みについて、BlueskyのTrust＆Safetyチームが情報を共有しました。

Bluesky 2024 Moderation Report - Bluesky
https://bsky.social/about/blog/01-17-2025-moderation-2024

Blueskyのモデレーションチームは24時間365日体制でユーザーからの報告を確認しており、有害なコンテンツをプラットフォームから排除する取り組みを行っています。Trust＆Safetyチームによると、2024年にユーザーが提出した報告件数は648万件で、これは前年の35万8000件から大幅に増加したとのことです。

2024年8月下旬にはブラジルのユーザー数が大幅に増加し、1日あたり最大5万件の報告が寄せられていました。それ以前はモデレーションチームがほとんどの報告を40分以内に処理できていたのですが、ブラジルユーザーの急増で対応が追いつかなくなったため、ポルトガル語のモデレーションチームの規模を拡大し、初めて外部委託業者を通じてモデレーターを雇用したそうです。

ブラジルでのユーザー数急増を受け、Blueskyはすでに導入していた自動スパム検知機能を強化。より多くの自動化に投資し、12月には「なりすまし」など特定のコンテンツで自動化の恩恵を受けたとのこと。自動化により誤検知も発生しましたが、人間のモデレーターによって確認されているとのことです。

コンテンツを報告するユーザーの割合は2023年と2024年でほぼ変わらず、2023年にはアクティブユーザーの5.6％が1つ以上のレポートを作成し、この数字は2024年に約4.57％となりました。2023年にはアクティブユーザーの3.4％が1件以上の報告を受け取りましたが、2024年には2.97％に減少しました。

報告の大半(350万件)は個々の投稿に関するもので、17万7000万件がDM、4万7000件がアカウントのプロフィール、4万5000件がリストに関するものでした。

ユーザーはさまざまな理由でコンテンツを報告しており、嫌がらせや荒らしなど反社会的行為に関する報告が175万件、なりすましや誤情報など誤解を招く内容が120万件、過剰な返信や反復的なコンテンツなどスパムが140万件、法律または利用規約に明らかに違反したコンテンツが93万3000件、ヌードやアダルトコンテンツなど適切にラベル表示されていない性的コンテンツが63万件、その他のコンテンツが72万6000件でした。

なお、Blueskyは投稿されたコンテンツとアカウントにラベル付けを行っていて、その精度は99.90％に達しているとのことです。このラベル付けはほとんどが自動化されていて、2024年には個々の投稿とアカウントに対して550万件のラベルを適用したとのこと。なお、2024年11月だけでBlueskyに投稿された動画は250万件、画像は3614万件に上っています。

結果的に、2024年にBlueskyのモデレーターが削除したアカウントは6万6308件、自動ツールによるスパムやボットアカウントなどの削除は3万5842件に達しました。また、モデレーターは6334件の投稿、リスト、フィードなどを削除し、自動ツールは282件を削除しました。

こうしたBlueskyのモデレーションに対し、2024年だけで9万3076人のユーザーが少なくとも1つの異議申し立てを提出しました。ほとんどの場合、申し立てはラベルの判定に同意できないことが原因でした。

Trust＆Safetyチームによると、今回の発表時点で削除されたアカウントに対する異議申し立てはメールにて受け付けていますが、将来的にはアプリ内で直接申し立てを行えるようにするとのことです。

また、2024年だけでBlueskyは法執行機関、政府、法律事務所から238件の要請を受け、182件に対応し、146件に応じました。リクエストの大半は、ドイツ、アメリカ、ブラジル、日本の法執行機関からのものでした。こうした法的な要求は2024年9月から12月にかけてピークに達しました。

加えて、2024年にBlueskyが受理した著作権・商標権案件は合計937件でした。2024年上半期全体で確認された著作権関連の対応は4件で、9月には160件に増加しました。Blueskyは2024年後半に著作権侵害の申請フォームを公開しており、報告への対応をより体系化しています。

有害なコンテンツの中には、児童の性的虐待に関連したコンテンツ(CSAM)も含まれていました。ネットサービスのいくつかは、規制を目的として記録された既知のCSAMの「ハッシュ(指紋のようなもの)」を購読してCSAMを検知していますが、Blueskyも同様に購読しており、画像や動画がBlueskyにアップロードされ、ハッシュのいずれかに一致した場合、人間がコンテンツを閲覧することなく即座にBlueskyから削除されるとのことです。

2024年、BlueskyはCSAMに関する1154件の報告を全米行方不明・被搾取児童センターに提出しています。Trust＆Safetyチームは「CSAMはどんなSNSでも深刻な問題です。ユーザーの急増に伴い、子どもの安全性も複雑さを増しました。Blueskyが報告した事例には、プラットフォーム外にリンクしてCSAMを販売しようとするアカウント、露骨な画像を販売しようとする未成年の可能性のあるユーザー、暗号化されたチャットリンクを共有しようとする小児性愛者が含まれます。こうしたケースでは、アクティビティを削除する際に迅速な対応ができるよう、モデレーションチームに対する内部ガイダンスを迅速に更新しました」と述べました。