無料でIntel・AMD・NVIDIAのGPUを使ってQwen3.8-Flash-Nextをローカルで動かせる「XeStrata」

1250億パラメーターのAIモデル「Qwen3.8-Flash-Next」を一般的なPCで動作させるソフトウェアの「Strata」をベースにGPUの計算処理をオープンな標準規格「SYCL」で書き直すことでIntel製GPUにも対応し、Intel・AMD・NVIDIA製のGPUを共通のコードで扱えるようにした無料のオープンソースソフトウェアが「XeStrata」です。
MistVVK/XeStrata: LLM & Image maker!1GPU & Intel / NVIDIA / AMD No CUDA!
https://github.com/MistVVK/XeStrata
◆Strataから派生したXeStrata
派生元のStrataはAIモデルを構成するデータをGPUのVRAMとPCのメインメモリに分散して処理することで、巨大なAIモデルを一般的なPCで動作させる仕組みを備えたソフトウェアでXeStrataは開発者のMistVVK氏がStrataのバージョン0.1.24をベースにIntel製GPUへ移植するために開発したソフトウェアです。
125Bの「Qwen3.8-Flash-Next」の量子化版をゲーミングPCで高速ローカル実行可能にするAI実行アプリ「Strata」 - GIGAZINE

◆GPUメーカーへの依存を減らすSYCL
GPUを利用してAIモデルの計算を行うための技術としてNVIDIAの「CUDA」やAMDの「HIP」などがありますが、GPUのメーカーごとに異なる技術を利用するとソフトウェアの開発者はそれぞれに合わせた計算処理を実装する必要があります。そこでXeStrataが採用したのがOpenGLやVulkanなどの標準規格を策定しているKhronos Groupによる「SYCL」で、AIモデルの計算処理を共通化しながらGPUごとに搭載されている以下の専用演算機構を活用しています。
・Intel:XMX
・AMD:WMMA
・NVIDIA:Tensor Core
NVIDIA製GPUではTensor Coreが登場する以前のPascal世代にも対応しています。ただし、Pascal世代では専用の演算機構を利用できるGPUと比べて処理速度が低下します。
◆オープンソースだけで構築できる実行環境
XeStrataのもう1つの特徴が、Intel製GPUやAMD製GPUを利用する場合はソースコードの閲覧・改変・再配布の権利がライセンスで認められたオープンソースソフトウェアだけでXeStrataをビルドして実行できる点です。以下の2種類のビルド方式が用意されています。
・free:ソースコードの閲覧・改変・再配布が認められたオープンソースソフトウェアだけを使用し、Intel製GPUとAMD製GPUに対応する構成。
・contrib-llvm:Intel・AMD・NVIDIA製GPUに対応し、IntelのoneMKLやNVIDIAのcuBLASなどメーカー独自の演算ライブラリを利用して処理を高速化できる構成。
XeStrata自体はLGPL-3.0以降のライセンスで公開されており、Strataから受け継いだコードについてはStrataのMITライセンスも維持されています。なお、NVIDIA製GPUでXeStrataを動かすにはNVIDIAのドライバーなどが必要です。
◆Strataの開発成果を取り込みながら独自に進化
XeStrataではStrataから派生した後もStrata本家で行われた機能追加や不具合修正などを継続的に取り込んでおり、変更内容や検証結果が公式ドキュメントに記録されています。

Strata本家の変更を取り込む際にはIntel Arc Pro B70・GeForce RTX 4070・Radeon RX 9060 XTなどで速度を測定し、XeStrataでも効果が得られる最適化を選んで取り入れる作業も行われています。XeStrataのバージョン番号も取り込んだStrataのバージョンに基づいており、例えば「xe0.2.2-1」はStrata 0.2.2をベースにしたXeStrataの1回目のリリースを意味しています。
◆独自の最適化による性能の向上
開発者はXeStrata xe0.2.2-1とStrata 0.2.2でQwen3.8-Flash-Nextの量子化版「IQ3_XXS」を動作させ、それぞれのソフトウェアで処理速度を測定しています。XeStrataにおける入力された文章の処理速度と回答の生成速度の向上幅は以下の通り。Intel製GPUについてはStrata本家のSYCLによる実装との比較で、開発者の測定ではXeStrataの方が高速に処理できるという結果になっています。
| GPU | 入力処理速度(Prefill) | 回答生成速度(Decode) |
|---|---|---|
| Intel Arc Pro B70 | 1.8~3倍 | 1.12~1.61倍 |
| GeForce RTX 4070 | 1.02~1.16倍 | 1.25~1.37倍 |
| Radeon RX 9060 XT | 2.1~2.7倍 | 1.02~1.07倍 |
◆異なるメーカーのGPUを組み合わせて利用可能
XeStrataでは1台のPCに搭載された複数のGPUにAIモデルの層を分割して配置でき、Intel製GPUとNVIDIA製GPUのように異なるメーカーのGPUを組み合わせることもできます。さらにGPUを2基利用する場合はAIモデルの層を分割する方法に加え、2基目のGPUを補助キャッシュとして利用する方法も用意されています。XeStrataは両方式の処理時間を推定し、補助キャッシュ方式が5%以上高速になると予測した場合に自動的に切り替える仕組みです。
◆独自のAIモデル対応
XeStrataではStrataから受け継いだQwen3.8-Flash-Nextの実行機能に加え、異なる構造を持つ4種類のAIモデルにもベータ版として対応しています。なお、これら4種類のモデルは記事作成時点では画像の入力や生成に対応しておらず、文章の生成に利用できます。
・Ornith-1.5-35B-A3B:総メモリ容量の少ないPC向け。
・llm-jp-4.1-32b-a3b-thinking:日本語と英語に対応した推論モデル。
・Qwen3.6-35B-A3B:総メモリ容量の少ないPC向け。
・GLM-5.3-Flash:総メモリ容量の多いPC向け。
◆XeStrataの動作環境
XeStrataの主な動作環境は以下の通り。
・GPU:Intel Arc A・Bシリーズ、AMD Radeon RDNA2以降の一部製品、NVIDIA Pascal以降
・VRAM:12GB以上を推奨
・CPU:AVX2対応のx86-64プロセッサー
・メインメモリ:通常32~62GB程度
・OS:Windows・Linux
XeStrataはWindows向けのバイナリやLinux向けのパッケージがGitHubで公開されているほか、Podmanによるコンテナ環境での実行にも対応しています。
現在ではStrata本家もLinuxでIntel製GPUに対応していますが、XeStrataは独自に移植した計算処理をIntel・AMD・NVIDIA製のGPUで共通して利用できるように開発を進めています。
・関連記事
古いiPadやメモリ1GBの小型端末でも160億パラメータのAIをローカルで動かせる無料ツール「smolmaxxing」が登場 - GIGAZINE
Windowsの高性能PCで動くローカルAIをブラウザからみんなで利用できる環境を「Ollama+Open WebUI」で構築してみた - GIGAZINE
125Bの「Qwen3.8-Flash-Next」の量子化版をゲーミングPCで高速ローカル実行可能にするAI実行アプリ「Strata」 - GIGAZINE
ハードウェアに合わせて自動最適化してオープンモデルを最大2倍高速化するAIエージェント向け推論エンジン「Magnitude」、Appleシリコン・NVIDIA・AMD・CPUに対応 - GIGAZINE
VRAM 32GBの「Intel Arc Pro B70」で「Hermes Agent」のローカルAIを実行、4ビット量子化したQwen3.8-27Bを動かしてみた - GIGAZINE
VRAM容量32GBで30万円未満なIntelグラボ「Intel Arc Pro B70 Creator 32GB」でローカルLLM「Qwen3.8 27B」や動画生成AI「MiniMax H3」を実行して生成速度を確かめてみた - GIGAZINE
「Qwen3.8-Flash-Next」がオープンモデルとして公開される、Qwen4の次世代アーキテクチャを使用 - GIGAZINE
・関連コンテンツ
in AI, ソフトウェア, Posted by darkhorse_logmk
You can read the machine translated English article XeStrata allows you to run Qwen3.8-Flash….







