複数のAIモデルを一元管理できる「Otari」がMozilla.aiによって開発される

Firefoxなどの開発で知られるMozillaが設立したオープンソースAIエコシステム構築を目指すスタートアップ「Mozilla.ai」は2026年7月6日に、大規模言語モデル(LLM)を効果的に運用するためのオープンソースコントロールプレーン「Otari」をリリースしました。

Otari: Own Your AI Stack | AI Gateway & Hosted Platform
https://otari.ai/

Introducing Otari: The Open-Source LLM Control Plane
https://blog.mozilla.ai/introducing-otari-the-open-source-llm-control-plane/

Mozilla.aiはAI開発企業がデータを非公開にする動きが続く中、「オープン性や透明性を確保し、説明責任を果たしながらAIを開発する企業」を目指して設立されています。開発者はオープンで柔軟性があり、かつ自身で制御できるAIシステムを構築できるべきだとMozilla.aiは考えており、そこで開発されたのがOtariです。

Otariは、LLMインフラを一元管理する「コントロールプレーン」です。複数のLLMプロバイダーにまたがるリクエストのルーティングやコスト管理、ガバナンス、デプロイ、信頼性の向上などを、開発者やエンジニアリングチームが一元的に管理できるよう支援します。

開発者は1つのプラットフォームから、以下のような機能を利用できます。

・単一のエンドポイントを介して、複数のLLMプロバイダーへリクエストをルーティング
・予算管理機能、利用状況の可視化、自動的な予算制限によりLLM利用コストを管理
・APIキーやワークスペース、アクセス権限を一元管理し、ガバナンスを強化
・クラウドホスト型とセルフホスト型の両方に対応
・リクエストを最適なLLMへ自動的に振り分ける「インテリジェントルーティング」と、障害時には別のLLMへ自動的に切り替える「自動フェイルオーバー」によってサービスの信頼性を向上
・ツールやオーケストレーション機能を備えたAIエージェント開発向けの「Agent Harnesses」を利用し、AIエージェント対応アプリケーションを構築

Mozilla.aiによると、OtariはLLMインフラを一元的に管理できる環境を提供することで、開発者が複雑なインフラ運用に費やす時間を減らし、AIアプリケーションの開発に集中できるようにすることを目的としているとのこと。以下はOtariのダッシュボード。

Otariを開発した理由について、Mozilla.aiは「LLMを導入する開発者や組織と協働する中で、私たちは同じようなインフラストラクチャ上の課題が何度も繰り返されるのを目の当たりにしました。各チームは、独自のルーティングロジックの構築、プロバイダーキーの管理、使用状況の追跡や予算管理、そして各アプリケーションにおけるガバナンスの実装をそれぞれ独自に行っていたのです。私たちは、それらがアプリケーションとLLMプロバイダーの間に位置する専用のコントロールプレーンで管理されるべきだと考えており、開発者がインフラストラクチャを管理・運用するための単一の場所を提供したいと考えています」と説明しています。

Otariはオープンソースプロジェクトで、リポジトリがGitHubでホストされています。

GitHub - mozilla-ai/otari: Open-source, OpenAI-compatible LLM gateway you run yourself. One endpoint for 40+ providers, with virtual keys, budgets, and usage tracking. · GitHub
https://github.com/mozilla-ai/otari