iPhone 17 Proで270億パラメータのAI「Qwen3.6-27B」が動作、AppleはPrismMLと圧縮技術の活用を協議か

AI開発企業のPrismMLが270億個のパラメータを持つ大規模言語モデル「Qwen3.6-27B」を圧縮し、iPhone 17 Pro単体で動作させることに成功したと主張しています。また、AppleがPrismMLと会合を開き、PrismMLの技術をiPhoneで利用する方法について話し合ったとThe Informationが報じています。

Khosla-Backed Startup Claims Breakthrough With Largest-Ever AI Model on an iPhone — The Information
https://www.theinformation.com/articles/khosla-backed-startup-claims-breakthrough-largest-ever-ai-model-iphone

Apple Exploring Ways to Run Much Larger AI Models Directly on iPhones - MacRumors
https://www.macrumors.com/2026/07/09/apple-prismml-larger-on-device-ai-models/

Apple Explores Larger On-Device AI Models with PrismML
https://www.ithinkdiff.com/apple-prismml-on-device-ai-models/

Appleは端末内で動作する基盤モデルについて、オフラインでも利用でき、個人情報を端末内に保ちやすい点を利点として挙げています。しかし、高性能なAIモデルをスマートフォンへ収めるのは簡単ではありません。AIモデルが文章の生成や判断に使う数値は「パラメータ」と呼ばれ、パラメータが増えるほど大量のメモリと計算能力が必要になります。

Appleが2026年6月に発表した「AFM 3 Core Advanced」は合計200億パラメータですが、処理内容に応じて10億～40億パラメータだけを有効化するスパースアーキテクチャを採用しています。モデル全体をフラッシュメモリに保存し、必要な部分だけを作業用メモリへ移すことでiPhone上での動作を可能にしています。

新型AI「Apple Foundation Models」は何がスゴいのか？iPhone上で200億パラメーターのマルチモーダルモデル「AFM 3 Core Advanced」を動作させる画期的な仕組み - GIGAZINE

PrismMLはAIモデルの重みを表現するビット数を大幅に減らし、必要なメモリ容量や計算量を抑える手法を開発しています。一般的なAIモデルが各パラメータを16ビットなどの細かな数値で保存するのに対し、PrismMLの「1-bit Bonsai」は各重みを1ビットで表現し、「Ternary Bonsai」では「マイナス1」「0」「1」という3種類の値で表現します。PrismMLは1-bit Bonsaiについて、16ビット版と比べて使用メモリを最大14分の1に抑え、処理速度を最大8倍にし、消費エネルギーを最大5分の1にできると説明しています。

パラメーター数8Bなのにメモリ消費わずか1.15GBの省メモリAIモデル「1-bit Bonsai」が登場、メモリ消費量14倍のモデルと同等以上の性能を発揮 - GIGAZINE

PrismMLがiPhone 17 Proで動かしたとするQwen3.6-27Bは、アリババのQwenチームが公開した270億パラメータの高密度(Dense)モデルです。高密度モデルは一部のパラメータだけを選ぶ方式とは異なり、モデル全体を処理に使用します。The InformationによるとPrismMLは約54GBあったモデルを4GB未満まで圧縮し、270億パラメータを同時に有効化した状態で動作させたとのこと。

PrismMLは言語モデルだけでなく、iPhone上で画像を生成するアプリ「Bonsai Studio by PrismML」も公開済みです。Bonsai Studioは画像生成処理をiPhone 17 Pro内で完結させ、512×512ピクセルの画像を約12秒で生成できると説明されています。

iPhoneでローカル動作する画像生成AI「Bonsai Image 4B」が登場したので使ってみた、FLUX.2 Klein 4Bを1bit版に魔改造してメモリ使用量を8.3分の1に削減 - GIGAZINE

270億パラメータ級のモデルを実用的な速度と生成品質を保ったままiPhone単体で動かせるなら、複雑な文章作成やプログラムコードの生成といった処理もiPhone内で完結できる可能性があります。AppleにとってはApple Intelligenceの処理をPrivate Cloud Computeへ送る機会を減らし、サーバー運用費を抑えながらプライバシー保護を強化できる技術となり得ます。ただし、AppleがPrismMLの技術を採用するのか、提携や買収に進むのかは明らかになっていません。

PrismMLはQwen3.6-27Bの圧縮版を2026年7月14日にオープンソースで公開する予定と述べています。