NVIDIAがAIエージェント向け高速モデル「Nemotron 3.5 Lightning」を公開、最適なAIモデルを選ぶ「NeMo Switchyard」も登場

NVIDIAが2026年8月11日、AIエージェント向けのオープンモデル「NVIDIA Nemotron 3.5 Lightning」と、複数のAIモデルから処理内容に適したモデルを自動選択するオープンソースライブラリ「NVIDIA NeMo Switchyard」を発表しました。

NVIDIA Nemotron 3.5 Lightning and NeMo Switchyard Deliver Faster, Smarter, More Efficient Agentic AI | NVIDIA Blog
https://blogs.nvidia.com/blog/nemotron-lightning-switchyard-rtx-dgx/

Route AI Agents Across Models with NVIDIA NeMo Switchyard | NVIDIA Technical Blog
https://developer.nvidia.com/blog/route-ai-agent-workloads-across-models-with-nvidia-nemo-switchyard

AIエージェントが外部ツールを操作しながら大規模な処理を行う場合、コードの確認や情報の分類といった比較的単純な作業にまで高性能で大規模なAIモデルを使い続けると処理時間やコストが増加します。一方で小型モデルだけに任せると、計画立案など複雑な推論が必要になった場面で回答品質が不足する可能性があります。NVIDIAは長時間稼働するAIエージェントでは、役割の異なる複数モデルを組み合わせる「system of models」という考え方が重要になると説明しています。

今回発表されたAIモデル「Nemotron 3.5 Lightning」は、大量に発生する専門的なタスクを高速に処理することを想定しているとのこと。合計300億パラメーターを持つMixture of Experts(MoE)モデルで、処理時に利用するアクティブパラメーターは30億です。

Nemotron 3.5 LightningはNemotron 3 Nanoに続くNemotron 3ファミリーの拡張という位置付けで、コードレビューやツール操作、セキュリティ警告の監視、請求に関する問い合わせなど、AIエージェントが繰り返し処理する専門タスクを想定しています。NVIDIAによると同クラスのモデルと比べて出力速度は最大4倍となり、AIエージェントによるタスク完了を30％高速化できたとのこと。また、組織が保有するデータや業務手順に合わせて追加学習させることも可能です。

Hugging Faceではカスタマイズ向けのBF16版と、推論速度や処理効率を重視したNVFP4版が公開されています。どちらも最大100万トークンのコンテキスト長に対応し、日本語もサポート。NVFP4版はDGX Spark 1台またはH100 1基などで動作可能とされています。また、Hugging FaceではOllamaやLM Studioなどで利用するための量子化モデルも案内されています。

ただし、軽量で高速なモデルを用意しても「どの処理をどのモデルに任せるのか」を人間が毎回設定していては、AIエージェントの構築が複雑になります。モデル選択を自動化するため、同時にモデルルーティング用のオープンソースライブラリ「NeMo Switchyard」が公開されています。

NeMo SwitchyardはAIエージェントから届いたリクエストを分析し、開発者が登録した複数モデルの中から処理に適したモデルへ自動的に振り分けます。NVIDIA製モデルだけでなくオープンモデルやプロプライエタリモデルも組み合わせることが可能とのこと。品質を優先するのか、応答速度やコストを抑えるのかといった条件に合わせて振り分け方法を調整することもできます。

リクエストの内容からモデルを選択する方式以外にも、AIエージェントが作業のどの段階にいるかを見てモデルを切り替える方式や、まず低コストなモデルに処理させ、継続的な問題が検出された場合に高性能モデルへ引き継ぐ方式なども用意されているとのこと。

NVIDIAの内部ベンチマークでは、NeMo Switchyardを使用してClaude Opus 4.8とNVIDIA Nemotron 3.5 LightningやGemma 3 26B、Qwen 3.6 35Bを組み合わせるとClaude Opus 4.8単体と同程度のタスク完了率を維持しながら大幅にコストを削減できたと報告されています。

記事作成時点でNemotron 3.5 LightningはHugging FaceやModelScope、OpenRouter、NVIDIAのbuild.nvidia.comなどから利用可能で、LM StudioとOllamaも対応を案内しています。NeMo SwitchyardのソースコードはGitHubで公開されており、NVIDIAは今後パートナーのプラットフォームにもSwitchyardを広げていく予定とのこと。

また、NVIDIAはAIシステムで複数モデルを組み合わせるケースが増える中、効率や品質、コストのバランスを取りながらタスクごとに適したモデルを選ぶモデルルーティングが重要になるとアピールしています。