2026年10月19日 22時00分 AI

AIの思考を潜在空間で実行して高性能化＆高速化＆低コスト化を実現する「Hybrid Reasoning Agents」

スタンフォード大学、Together AI、イリノイ大学アーバナ・シャンペーン校、Metaの研究チームが「Hybrid Reasoning Agents」というAI実行手法を発表しました。AIモデルの思考(thinking)を潜在空間で実行できるように事後学習を施し、処理トークン数を少なくして高速化と低コスト化が可能とされています。

[2610.18861] Hybrid Reasoning Agents
https://arxiv.org/abs/2610.18861

Your LLM agent has to think out loud, token by token, before it can search, run code, or act in the world.

We humans don’t. We ponder in silence and speak when it matters.

Human language was never meant to be the limit of machine thought.

Introducing 🌗Hybrid Reasoning Agents… pic.twitter.com/f9Qi1gVCJQ
— Jiaru "Rubin" Zou (@Jiaru_Zou) October 14, 2026

既存の大規模言語モデル(LLM)は「思考」「ツール呼び出し」「最終的な出力」のすべての段階でトークンを生成しています。Hybrid Reasoning Agentsでは思考を潜在空間で行うことで高速化を実現します。なお、潜在空間とは各種データをAIにとって扱いやすい形式に変換した数値空間を指します。

Hybrid Reasoning Agentsによる推論は既存のモデルにそのまま適用できるわけではなく、事前学習済みのモデルに教師あり学習手法の「HybridSFT」と強化学習手法「HybridRL」を施すことで潜在空間での思考を可能とします。

モデルの推論処理は出力とツール呼び出しを担う「テキストモード」と思考を担う「潜在モード」を切り替えながら実行されます。また、潜在モードでの思考内容は人間が読めるように整形されます。

研究チームの検証では、Hybrid Reasoning Agentsによってモデルのベンチマークスコアが向上し、処理速度が最大2.1倍高速になることが確認されています。また、Qwen3 4BにHybrid Reasoning Agentsを適用することでコストが3.7分の1に減少したことも報告されています。

Hybrid Reasoning Agentsの関連コードやデータセットは以下のリンク先で公開されています。

GitHub - togethercomputer/HybridAgent · GitHub
https://github.com/togethercomputer/HybridAgent

HybridAgent - a togethercomputer Collection
https://huggingface.co/collections/togethercomputer/hybridagent