AI

iPhoneでも動作する80億パラメーターの省メモリAI「Ternary Bonsai」が登場、「1」「0」「-1」の3値で情報を扱いメモリ使用量はわずか1.75GB


AI開発企業のPrismMLが小型かつ高性能なAIモデル「Ternary Bonsai」を2026年4月16日に公開しました。Ternary BonsaiはiPhoneでも実行できる省メモリAIモデルで、同等のメモリを消費する競合モデルと比べてはるかに高い性能を備えています。

PrismML — Introducing Ternary Bonsai: Top Intelligence at 1.58 Bits
https://prismml.com/news/ternary-bonsai

AIモデルを実行するには大容量のメモリが必要であり、スマートフォンなどのメモリ容量の限られたデバイスでは低性能の小型モデルしか実行できません。PrismMLは省メモリなAIモデルの開発に取り組んでいる企業で、2026年3月31日に登場した「1-bit Bonsai」は80億パラメーターのモデルを1.15GBという少ないメモリで実行できることから大きな注目を集めました。

パラメーター数8Bなのにメモリ消費わずか1.15GBの省メモリAIモデル「1-bit Bonsai」が登場、メモリ消費量14倍のモデルと同等以上の性能を発揮 - GIGAZINE


一般的にAIモデルは各パラメーターを16bitの精度で扱うように設計されており、「AI開発企業が16bitのオリジナルモデルを公開し、有志が量子化と呼ばれる技術を用いて8bitや4bitに圧縮して省メモリ化する」という流れでメモリ使用量の少ないモデルが公開されています。PrismMLが公開した1-bit Bonsaiは設計段階から「1」と「-1」の1bitで情報を扱うように開発されており、80億パラメーターのモデルを1.15GBに収めることに成功していたというわけです。

2026年4月16日に公開されたTernary Bonsaiは「1」「0」「-1」の3値で情報を扱うように設計されており、1-bit Bonsaiと比べてメモリ使用量は増加したものの性能も大きく向上しました。PrismMLはTernary Bonsaiを1.58bitのモデルとしてアピールしています。

Ternary Bonsaiは「Ternary Bonsai 8B」「Ternary Bonsai 4B」「Ternary Bonsai 1.7B」の3種類が用意されています。Ternary Bonsai 8Bのメモリ使用量は1.75GBで、メモリを9倍以上使用するMinistral3 8Bより高いベンチマークスコアを記録しています。


以下のグラフは横軸がメモリ使用量で縦軸がベンチマークスコアを示しています。Ternary Bonsaiシリーズは同等性能のモデルと比べてはるかにメモリ使用量が少ないことが分かります。


メモリ使用量ごとの知能密度を比較したグラフが以下。Ternary Bonsaiは1-bit Bonsaiより高い処理性能を備えていますが、メモリ効率では1-bit Bonsaiが上回っています。このため、PrismMLは「Ternary Bonsai 8Bは1-bit Bonsaiの代替モデルではありません。フットプリントを最小限に抑える必要がある環境では依然として1-bit Bonsaiが最適な選択肢です」と述べています。


Ternary BonsaiシリーズはAppleシリコン向けのAIフレームワークであるMLXで動作するように設計されており、iPhoneやiPad、Macで実行可能です。各モデルは以下のリンク先で公開されており、ライセンスはApache license 2.0を採用しています。

prism-ml/Ternary-Bonsai-8B-mlx-2bit · Hugging Face
https://huggingface.co/prism-ml/Ternary-Bonsai-8B-mlx-2bit

prism-ml/Ternary-Bonsai-4B-mlx-2bit · Hugging Face
https://huggingface.co/prism-ml/Ternary-Bonsai-4B-mlx-2bit

prism-ml/Ternary-Bonsai-1.7B-mlx-2bit · Hugging Face
https://huggingface.co/prism-ml/Ternary-Bonsai-1.7B-mlx-2bit

また、iPhone用のAI実行アプリであるLocally AIがすでにTernary Bonsai 8Bの実行に対応しています。


Locally AIの使い方は以下の記事で詳しく解説しています。

iPhone 17 Proでパラメーター数80億のAIモデル「1-bit Bonsai 8B」をローカル実行してみたよレビュー、無料アプリのLocally AIで簡単に実行できる - GIGAZINE

この記事のタイトルとURLをコピーする

・関連記事
GoogleがオープンAIモデル「Gemma 4」を発表、ライセンスをApache 2.0に変更 - GIGAZINE

MicrosoftがローカルAI同梱アプリを簡単に作れるSDK「Foundry Local」を公開、QwenシリーズやWhisperシリーズを自作アプリに組み込める - GIGAZINE

日本語特化の小型AIモデル「LFM2.5-1.2B-JP」を含むオンデバイス重視のオープンモデル「LFM2.5」シリーズが登場 - GIGAZINE

in AI, Posted by log1o_hf

You can read the machine translated English article 'Ternary Bonsai,' a memory-efficient AI ….