iPhoneで動作しBonsai 27Bと同等性能で13倍高速なAI「Maple-Preview」が登場、ローカルAIがまた1歩前進

AI研究企業のDeepGroveが軽量かつ高性能なAIモデル「Maple-Preview」を発表しました。Maple-PreviewはiPhoneでも動作するほど小型のモデルで、同じくiPhoneで動作するBonsai 27Bと比べて13倍高速な処理が可能です。

Maple-Preview Model Card — DeepGrove
https://deepgrove.ai/maple-preview

Maple-Previewは総パラメーター数202億・アクティブパラメーター数14億9000万のMoEモデルです。

AIモデルをメモリ容量の少ないデバイスで実行可能にする試みは多くのAI研究者が実施していますが、ほとんどは「既存のAIモデルを量子化する」という手法を用いています。量子化はAIモデルの計算精度を下げることで容量を削減できる手法なのですが、DeepGroveは「既存のモデルの計算精度を下げるアプローチは根本的に間違っている。性能と効率の両方を不必要に制限することになってしまう」「モデルの実行時の精度は学習時の精度と一致させるべきである」と指摘。Maple-Previewは設計の段階で3値で処理を実行するように作られており、小型かつ高性能なモデルを実現しています。

以下のグラフは横軸がデコード時の秒間出力トークン数で、縦軸がベンチマークスコアの平均値です。Maple-PreviewがTernary Bonsai 27BやGemma 4 E4Bといったスマートフォンでの動作を前提にした他社モデルとくらべて高速かつ高性能であることが分かります。

「Maple-Preview」「Qwen3.5 35B-A3B」「Ternary Bonsai 27B」「gpt-oss-20b」「GLM-4.7-Flash」のベンチマークスコアを比較したグラフが以下。

Maple-Previewは国際数学オリンピックの問題を正確に解くこともできたそうです。

以下のグラフは横軸がコンテキスト長、縦軸がコンテキストの保持に必要な追加のメモリ使用量を示しています。Maple-Previewは扱うトークンが多くなってもメモリ使用量を小さく保てます。

各モデルのメモリ使用量と13万1000トークンのコンテキスト込みのメモリ使用量を比べたグラフが以下。Maple-Previewは13万1000トークンを扱う際も7.69GBしかメモリを消費しません。

iPhoneでMaple-PreviewとBinary Bonsai 27Bに同じプロンプトを入力した結果、Maple-Previewの方が13倍高速な処理が可能だったとのこと。

Maple-Previewはオープンモデルとして開発されており、以下のリンク先で配布されています。ライセンスはMIT Licenseです。

deepgrove/maple-preview · Hugging Face
https://huggingface.co/deepgrove/maple-preview

Maple-Previewを実際に使えるデモサイトも用意されています。

DeepGrove
https://chat.deepgrove.ai/

デモサイトで「スマートフォンの画面には保護フィルムを貼るべき？貼らなくてもOK？iPhone 17の場合。」という質問を入力した結果が以下。日本語で応答してくれましたが、かなり内容が怪しく、分かりそうで分からない文章になってしまいました。

Maple-Previewは名前の通りプレビュー段階で、今後も改善が行われるとのこと。また、DeepGroveは「会話内容を元にAIモデルをチューニングして個人最適化する」というシステムの構築も目指しています。