Googleが「LiteRT.js」をリリース、ブラウザ上のAI推論を既存ランタイム比で最大3倍高速に

Googleが2026年7月9日、ウェブブラウザ内でAIモデルを高速に実行するためのJavaScript向けランタイム「LiteRT.js」を発表しました。

LiteRT.js, Google's high performance Web AI Inference - Google Developers Blog
https://developers.googleblog.com/litertjs-googles-high-performance-web-ai-inference/

ウェブカメラの映像から物体をリアルタイムで検出したり、録音した音声を文字に変換したり、画像を高解像度化したりするにはAIモデルによる「推論」が必要です。ブラウザ上で直接推論を行えば通信を待つ必要がなく、入力データを端末の外へ送らずに済むというメリットがあります。

Googleは以前からブラウザ向け機械学習ライブラリ「TensorFlow.js」を提供していますが、TensorFlow.jsの従来方式ではJavaScriptベースの処理機構が使われていました。JavaScriptベースの処理機構ではCPUやGPUの性能を十分に引き出すのは難しく、TensorFlow.jsではネイティブアプリほどの速度を出しにくいという問題がありました。

LiteRT.jsではスマートフォンやデスクトップ向けに最適化されてきたLiteRTの実行環境をWebAssembly経由でブラウザへ持ち込み、端末の処理能力を利用しやすくしています。CPUで推論する場合はニューラルネットワーク計算向けライブラリ「XNNPACK」を使用し、複数のCPUコアやSIMD命令が利用可能。GPUを使う場合はブラウザからGPUを操作するための規格「WebGPU」とGoogleのアクセラレーション技術「ML Drift」が組み合わされているほか、AI処理専用プロセッサであるNPUについては「Web Neural Network API(WebNN API)」を利用する仕組みとのこと。

開発者が使用するAIモデルはLiteRTと同じ「.tflite」形式です。既存のLiteRT用モデルをブラウザへ持ち込めるほか、PyTorchやJAX、TensorFlowで作成したモデルも変換して利用可能。PyTorchモデルは「LiteRT Torch」で変換でき、モデル内の数値を少ないビット数で表現してモデル容量の削減や処理の高速化につなげる「量子化」もAI Edge Quantizerを使って層ごとに調整できます。

また、TensorFlow.jsを使った既存アプリをすべて作り直す必要はなく、画像の整形など推論前の処理や、推論結果を加工する処理はTensorFlow.jsのまま残し、モデルを実行する部分だけLiteRT.jsへ置き換えられるとのこと。特にPyTorchモデルの場合は「PyTorchからONNX、TensorFlow、TensorFlow.jsへ順番に変換する」という複雑な経路を避け、PyTorchからLiteRT形式へ直接変換できるとGoogleは説明しています。

Googleが2024年モデルのM4搭載MacBook Proを使って実施したテストでは、コンピュータービジョンや音声処理のモデルでは、LiteRT.jsが他のウェブ向けランタイムより最大3倍高速だったとのこと。

一方、LiteRT.jsの実行方式を比較したテストではWebGPUまたはWebNNによる推論が標準的なCPU実行より5倍～60倍高速だったとしています。

公開されたデモでは、YOLOを使ったリアルタイム物体検出、ウェブカメラ映像から奥行きを計算して3D空間へ変換する深度推定、Real-ESRGANによる画像の4倍高解像度化などをブラウザ内で実行できます。LiteRT.jsはnpmパッケージ「@litertjs/core」として提供されており、JavaScriptまたはTypeScriptでモデルの読み込みから推論結果の取得まで行うことが可能です。

Googleは今後、WebNNへの対応を進めてNPUを利用した推論を強化するとともに、端末内で動作する生成AI向けの最適化も拡充する方針とのこと。大規模言語モデルをブラウザで動かす「LiteRT-LM.js」も案内されており、LiteRT.jsの性能や対応モデルの範囲、開発者向けツールを継続的に拡充していくと述べています。