2025年02月20日 12時00分ネットサービス

Bluesky開発チームがタイムラインのレイテンシを96％削減した方法

Blueskyのユーザー数は2025年1月30日に3000万人を突破しました。ユーザー数が増え続ける中、タイムラインの管理手法を調整することでほとんどのユーザーに影響を与えることなく96％のレイテンシ削減に成功したことをBluesky開発チームのJaz氏が報告しています。

When Imperfect Systems are Good, Actually: Bluesky's Lossy Timelines · Jaz's Blog
https://jazco.dev/2025/02/19/imperfection/

Blueskyではユーザーの投稿をインデックス化してデータベースに保存しています。また、「投稿したユーザーをフォローしている人(フォロワー)をすべて検索し、各フォロワーのタイムラインテーブルに投稿の参照情報を含む新しい行を追加する」という操作を実行して各ユーザーのタイムラインを構築しています。

タイムラインテーブルは数百のシャードに分割されています。個々のタイムラインの処理負荷は十分に小さいため、すべてのユーザーが「通常の行動」をしている場合は問題は発生しません。

しかし、Blueskyには記事作成時点で3188万人以上のユーザーが存在しており、中には「数十万人をフォローする」というボットのような異常な行動をしているユーザーも存在しています。このようなユーザーのタイムラインでは書き込みが極めて大量に発生し、システムの負荷が増大してレイテンシが大きくなります。また、1つのシャードで複数のユーザーを管理するという仕組み上、当該ユーザー以外のユーザーにも悪影響が出てしまいます。

Jaz氏は、1人のユーザーの投稿に基づいて200万人のユーザーのタイムラインに処理を加えるケースを例にレイテンシが発生する仕組みを解説しています。

Blueskyのタイムライン書き込み処理には1ユーザー当たり平均600マイクロ秒かかり、200万人のタイムラインを順番に処理するには合計20分かかります。1度に1000個のタイムラインを並列処理すれば、処理時間を合計1.2秒に短縮できます。

しかし、600マイクロ秒という書き込みレイテンシはあくまで平均レイテンシであり、実際には15ミリ秒を超えることもあるとのこと。また、Blueskyではフォロワー1万人ごとにページを分けており、1万人を超えるユーザーを処理する際に「次のページを展開する処理」が発生します。書き込みレイテンシとページ処理が重なると、フォロワー数20万人の有名人の場合はタイムライン処理に5分かかることもあります。

Jaz氏は「10万人以上をフォロワーしているユーザーがタイムライン全体を実際に読むことはない」と指摘。このような大量のユーザーをフォローしているユーザーを対象に「すべての投稿を時系列順に処理するのではなく、一部を損失させて処理する」という仕組みを適用することで各シャードの処理負荷を下げることが可能です。Jaz氏はこの仕組みを「Lossy Timelines(損失タイムライン)」と名付けています。

Lossy Timelinesを実装した結果、Blueskyのタイムライン書き込み処理におけるレイテンシを大幅に削減することに成功しました。以下のグラフは上側が「90％のリクエストが処理されるまでの時間(P90 Latency)」、下側が「99％のリクエストが処理されるまでの時間(P99 Latency)」の推移を示しています。Lossy Timelinesの導入に伴い、P99は90％以上削減されました。