MetaはValveのSteam Deck用に設計されたLinuxスケジューラを自社のサーバーで使用している

東京で開催されたLinux会議で、「MetaがSteam Deck用のLinuxスケジューラを使用している」という話が共有されました。

Meta Is Using The Linux Scheduler Designed For Valve's Steam Deck On Its Servers - Phoronix
https://www.phoronix.com/news/Meta-SCX-LAVD-Steam-Deck-Server

Facebook deploys the Steam Deck's Linux scheduler across its data centers — Valve's low-latency scheduler perfect for managing Meta's workloads at massive data centers | Tom's Hardware
https://www.tomshardware.com/software/linux/facebook-deploys-the-steam-decks-linux-scheduler-across-its-data-centers-valves-low-latency-scheduler-perfect-for-managing-metas-workloads-at-massive-data-centers

Metaは、数百のCPUコア、極めて多様なワークロード、そして厳格なレイテンシ目標を備えた巨大なマシンをデータセンターで運用しています。こうした環境において、Metaはサービスごとにカスタム構築するスケジューラではなく、手動で設定を調整することなく自動的に適応できる万能なスケジューラを求めていたそうです。

そこで白羽の矢が立てられたのが「SCX-LAVD」というスケジューラでした。SCX-LAVDはLinuxコンサルティング企業IgaliaがValveとの契約で開発を進めてきたもので、携帯ゲーミング端末であるSteam Deckの要件に非常に適していました。Steam Deckの他ではLinuxディストリビューションのCachyOS Handheld EditionやBazziteなど、他のゲーミングデバイスでもさまざまな形で採用されています。

SCX-LAVDは、比較的新しいLinuxフレームワークであるsched_extをベースに構築されており、これによりカーネルに大きな変更を加えることなく、代替スケジューラをカーネルに組み込むことができます。簡単に言えば、sched_extを利用することで、企業はLinuxをフォークしたり、大規模なパッチセットを維持したりすることなく、安全かつ段階的にさまざまなスケジューリング戦略を試すことができます。

LAVDは「Latency-Aware Virtual Deadline(レイテンシを考慮した仮想デッドライン)」の略称で、タスクの挙動、スリープ、ウェイク、ブロックの頻度を継続的に観察し、レイテンシの影響を受けやすいタスクを推定する機能を備えています。これらのタスクには「仮想デッドライン」が早めに設定され、システムが混雑している場合でも迅速に実行される可能性が高まります。

このアプローチはもともとゲーム開発をきっかけに生まれました。Steam Deckでは、スケジュールの期限を守れないと、フレーム落ち、スタッター、入力応答の遅延といった問題が発生します。データセンターでも同様に、ウェブリクエストの遅延、メッセージの遅延、サービスレベル目標の未達といった同じ障害モードが発生します。ゲーミングPCとデータセンターは全く異なる環境ですが、根本的には同じ問題を抱えていました。

こうした観点から、MetaはSCX-LAVDを大規模サーバーに採用したとのこと。導入時には、数十個のコアが単一のスケジューリングキューを共有するマシンにおいて、特定のコア上でのみ実行可能なスレッドであるピン留めタスクが不要な干渉を引き起こすなどの問題が発生しました。Metaはキャッシュ局所性を改善したり、ネットワーク割り込みに圧倒されたコアを「遅い」CPUとして扱うことで補償するロジックを追加しこれを調整。重要なのは、これらの修正がサービスごとの設定や手動での優先度タグ付けを必要とせず、観測された動作に基づいてスケジューラが適応していった点だといいます。

サーバーで増大するCPUとメモリ構成にもかかわらず、SCX-LAVDの動作は全体的に良好で、Metaは「新たなデフォルトスケジューラ」と呼んでいるそうです。