iPhoneでローカル実行可能な270億パラメータのAIモデル「Bonsai 27B」が登場、Qwen3.6-27Bをメモリ使用量3.9GBまで小型化してスマホ単体で実用的な速度で動作

AI開発企業のPrismMLが270億パラメータのAIモデルをスマートフォンで動かせるように圧縮した「Bonsai 27B」を正式発表しました。容量を3.9GBに抑えた1ビット版でも元になった「Qwen3.6-27B」の性能を約90％維持しているとPrismMLは説明しています。

PrismML — Announcing Bonsai 27B: The First 27B-Class Model to Run on a Phone
https://prismml.com/news/bonsai-27b

AIを端末内で動かせれば通信環境に左右されにくく、個人情報や業務データを端末から出さずに処理できます。ただし、高性能なAIモデルは大量のメモリを必要とします。Qwen3.6-27Bを一般的な16ビット精度で保存すると容量は約54GBに達し、数値の精度を4ビットまで下げた版でも約18GBになるとのこと。スマートフォンだけでなく多くのノートPCでも扱いにくい大きさです。

PrismMLは2026年7月上旬にQwen3.6-27Bを4GB未満に圧縮し、iPhone 17 Proで動作させたと主張していました。2026年7月10日時点では圧縮版を7月14日に公開する予定とされており、今回のBonsai 27Bは予告されていたモデルの正式公開に当たります。モデル名や性能評価に加えて配布方法などの詳細が明らかになりました。

iPhone 17 Proで270億パラメータのAI「Qwen3.6-27B」が動作、AppleはPrismMLと圧縮技術の活用を協議か - GIGAZINE

Bonsai 27Bには省メモリ性を優先した「1-bit Bonsai 27B」と品質を優先した「Ternary Bonsai 27B」の2種類が用意されています。1-bit Bonsai 27Bは重みを「－1」と「＋1」で表現し、補正用データを含めた実効精度は重み1個当たり1.125ビット。モデル容量は3.9GBで、iPhone 17 Proでアプリが利用できるメモリ容量の範囲に収まるとのこと。Ternary Bonsai 27Bは「－1」「0」「＋1」の3値を使う方式で、実効精度は1.71ビットとなり理論上の容量は5.9GBです。

知識や推論、数学、プログラミング、指示への対応、ツール呼び出し、画像理解など15種類のベンチマークをまとめた評価では、元のQwen3.6-27Bが85.0点だったのに対してTernary Bonsai 27Bは80.5点、1-bit Bonsai 27Bは76.1点でした。PrismMLは元モデルに対する性能の維持率をそれぞれ約95％と約90％としています。

容量を小さくしただけでなく、長い資料を処理したり複数の作業を連続して実行したりする用途も想定されています。Bonsai 27Bは最大約26万2000トークンの文脈を扱えるほか、文章だけでなくスクリーンショットや書類、カメラ画像も入力可能。外部ツールを決められた形式で呼び出す機能や、作業結果を確認しながら次の操作へ進むAIエージェント向けの処理にも対応します。

動作速度はNVIDIA GeForce RTX 5090で1ビット版が1秒当たり最大163トークン、3値版が1秒当たり最大134トークン。Apple M5 Maxでは1ビット版が1秒当たり最大87トークン、3値版が1秒当たり最大58トークンだったと報告されています。Apple製品ではMLX、NVIDIA製GPUではCUDAを利用して動作します。

Bonsai 27Bのモデルデータは記事作成時点でApache License 2.0で公開されており、Apple製品向けのMLX版やllama.cppで利用できるGGUF版などがHugging Faceで配布されています。

Bonsai 27B - a prism-ml Collection
https://huggingface.co/collections/prism-ml/bonsai-27b

PrismMLは圧縮手法が特定のAI構造に限定されるものではなく、さらに大規模なモデルや新しい構造への適用も進めていると述べるとともに、「初期のコンピューターは部屋を埋め尽くしていましたが、今ではポケットに収まっています。AIも同じ道をたどっており、Bonsai 27Bは過去最大の一歩です」と発表記事を締めくくりました。