Blueskyがモデレーション人員を25人から100人へ増やすことを決定、児童ポルノや地域文化への対応を強化

Blueskyは2024年11月に総ユーザー数が2000万人を超え、アクティブユーザー数は350万人に達しました。そんな中、Blueskyがモデレーション人員を100人に増やすことを決定したことが明らかになりました。

Inside Bluesky’s big growth surge
https://www.platformer.news/bluesky-growth-content-moderation-trust-safety-interview/

Blueskyは一般的なSNSと同様にモデレーション専門のチームを設置しており、暴力的なコンテンツや迷惑行為を監視しています。Blueskyのテクニカルアドバイザーを務めるWhy氏は2024年4月に来日した際に「モデレーション人員は22人いる」「日本語・英語・ポルトガル語の専門チームが存在する」と語っており、地域ごとの文化に合わせたモデレーション体制を構築していることを明かしていました。

Blueskyの開発者に「鍵アカウントの実装予定は？」「日本支社の設立予定は？」など何でも聞けるイベントが開催されたので行ってみたら開発者の「やることリスト」に追加されるアイデアが続々飛び出す充実のイベントでした - GIGAZINE

新たに、Blueskyのトラスト＆セーフティ部門責任者のアーロン・ロードリックス氏は海外メディアのPlatformerに対して「モデレーション人員を25人から100人に増やすことを決定した」と伝え、ユーザー数の急増に対応するべくモデレーション体制の強化に取り組んでいることを明言しました。

Blueskyではユーザーによる報告や自動システムを活用してコンテンツを監視しています。しかし、自動システムには「地域ごとに異なる文化への対応が難しい」という問題が存在。例えば、Blueskyではブラジル人ユーザーの急増に伴って「KKK」というワードの投稿頻度が増加したとのこと。自動システムは「KKK」を白人至上主義団体「クー・クラックス・クラン(KKK)」を示す語句とみなしていましたが、実際にはブラジルでは「KKK」が「笑い」を指すワードだったことが判明しました。このような地域ごとの文化に対応するために、Blueskyはモデレーション人員を増やすというわけです。

また、Blueskyのセーフティチームは2024年11月26日にユーザー数の急増に伴って有害コンテンツも増加していることを明かし、子どもの安全などの重要度の高い分野のモデレーションを短期的に強化したことを表明しました。この短期的なモデレーション強化は精度とトレードオフの関係にあるそうで、セーフティチームは誤って規制対象となってしまったユーザーに対して異議申し立てをするように呼びかけています。

1/ We're experiencing a huge influx of users, and with that, a predictable uptick in harmful content posted to the network.

As a result, for some very high-severity policy areas like child safety, we recently made some short-term moderation choices to prioritize recall over precision.

— Bluesky Safety (@safety.bsky.app) 2024-11-26T00:07:59.547Z

ロードリックス氏によると、Blueskyでは児童性的虐待コンテンツ(CSAM)を監視するために、児童保護団体のThornが開発した検出ツール「Safer」を活用しているとのことです。

Safer is now on Bluesky! Celebrating with a HUGE thanks to @caseynewton.bsky.social for highlighting the critical work happening behind the scenes at @bsky.app to keep its platform safer for everyone. We're proud to play a role in tackling child sexual abuse material (CSAM) as this community grows.

— Safer, Built by Thorn (@saferbythorn.bsky.social) 2024-11-26T01:48:14.061Z

なお、Blueskyは欧州委員会の報道官から「EU内で活動するすべてのプラットフォームは、基準を下回る規模であったとしても、専用のページを設けて『EU内のユーザー数』や『法的に設立された場所』を記す必要がある。現時点では、Blueskyはこの規則に従っていない」と指摘されています。この指摘について、Blueskyは2024年11月26日に海外メディアのBloombergに対して「EUの規則の従うために弁護士と相談中です」とコメントし、規則に対応する姿勢を示しました。

「BlueskyはEUの規制法に違反している」と欧州委員会の報道官が発言、ただしプラットフォームの規模が小さいため規制対象には該当せず - GIGAZINE