Maple-Previewは毎秒218トークン、弱点はエージェント用途

DeepGroveが公開したMaple-Previewは、重みを三値に限定した20B-A1Bの推論モデルです。DeepGroveが公表する毎秒218トークンはM4搭載のMac miniでの数字ですが、モデルと一緒に配布されている実装ではなく別の実行環境で計測した値です。エージェント系のベンチマークでは性能が落ちる場合があると、DeepGroveも認めています。

Maple-Previewは三値重みのMoE推論モデル

Maple-PreviewはDeepGroveが公開したオープンソースの推論モデルで、重みを三値に限定しています。また、最初からオンデバイスでの効率的な推論を目的に設計したとモデルカードは述べています。

Maple-PreviewはMoE(Mixture of Experts)の構成で、役割を分けた複数のエキスパートのうち入力ごとに一部だけを使います。モデルカードの記述によると、24層で256個のエキスパートを持ち、1回の処理で使われるのはそのうち8個とのこと。公式の表記20B-A1Bは、全体のパラメータが20B(200億)で、1回の処理で使われるのは約1B(10億)という意味です。

三値重み(ternary weight)とは、モデルの重み(学習で定まる数値)を三つの値だけで表す方式のこと。DeepGroveは冒頭で、同規模のモデルでは推論力が最高水準で、より大きなモデルとも競えるとしています。どちらも自己評価です。 チェックポイント(学習済みモデルの状態を保存したデータ)の容量は公称5.31GB、コンテキスト(入力と出力を合わせた長さの上限)は131,072トークンです。

Today we introduce Maple-Preview, an open-source 20B-A1B ternary-weight reasoning LLM. / Maple-Preview has SOTA reasoning for its weight class and is even competitive with larger models. / 218 tok/s M4 Mac mini / 5.31 GB Checkpoint / 131,072 Token context / Maple-Preview is a 20B-A1B reasoning model designed from the start for efficient on-device inference. / It utilizes a 24-layer, 256-expert (8 active) configuration with 3:1 SWA-512:GA attention. — モデルの位置づけと公開形態、公称の速度・容量・コンテキスト長、および層数とエキスパート構成に関する記述より
公式情報を見る →

Mac miniの218トークン/秒は別環境での計測値

DeepGroveが公表する毎秒218トークンはM4搭載のMac miniでの数字ですが、同梱の実装ではなく別のオンデバイス実行環境で計測した値です。 トークン/秒とは、1秒間に生成できるトークン(文章を処理するときの単位)の数のこと。モデルカードの冒頭は毎秒200トークン超をうたい、Gemma 4・Qwen3.5・gpt-ossといった効率重視のモデルより5〜16倍速いとしています。

モデルカードによると、同梱されているTransformers(機械学習ライブラリ)向けの実装は、TritonとFlashAttention(GPUでの計算を速めるソフトウェア)を前提に作られているとのこと。CUDAとはNVIDIA製GPU向けの計算環境のことで、同梱の実装はCUDAに対応した環境を想定しています。

そのため同梱の実装をそのままMacで動作させても、毎秒218トークンが出るとは限りません。この数字を他の記事や資料で使うときは、別の実行環境で計測した値だと書き添えておくといいでしょう。

It solves IMO-level problems and runs at 200+ tokens/sec on a Mac mini M4, 5–16× faster than efficient models like Gemma 4, Qwen3.5, and gpt-oss. / The included Transformers implementation depends on Triton and FlashAttention and is intended for a compatible CUDA environment. / The reported Apple Silicon result uses a separate on-device runtime. — 公称速度と比較対象モデル、同梱実装の依存関係と想定環境、および Apple Silicon での計測環境に関する記述より
公式情報を見る →

推論モデルでもLLMエージェント用途は性能が落ちる場合がある

エージェント系のベンチマーク(外部のツールを呼びながら複数の手順を進める作業の性能を測る共通の試験)では、性能が落ちる場合があると開発元は自ら書いています。 開発元は今回のプレビュー版を、推論を優先して仕上げたものと位置づけています。モデルカードの評価の項は、メモリ量あたりの性能と速度あたりの性能のどちらでも新しい水準に達したとしたうえで、但し書きを添えた対象はエージェント系の試験だけです。

DeepGroveは続けて、エージェント系タスク向けの事後学習(基礎学習のあとに用途へ合わせて追加する学習)が最小限だとしています。また、一般的な強化学習(良い出力に報酬を与えて望ましい回答を出しやすくする学習)も小規模にとどまったと述べています。

DeepGroveは本公開までに学習を重ね、汎用的な性能を上げていく方針です。ただし、エージェント系のベンチマークを改善するとまでは書いていません。

On benchmarks, Maple-Preview sets a new point on the Pareto frontier for both memory-to-performance and speed-to-performance, demonstrating its strong reasoning capabilities. / However, we note that this preview is focused primarily on raw reasoning and, as such, may underperform on agentic benchmarks. / We intend to continue improving general performance through extended training before Maple's full release. / This preview received minimal post-training for agentic tasks and only small-scale general reinforcement learning. — 評価結果の位置づけ、エージェント系ベンチマークでの制約とその理由、および本公開に向けた方針に関する記述より
公式情報を見る →

MITライセンスでも商用利用はLICENSE本文で判断

Maple-PreviewはMITライセンスで公開されているとモデルカードは記載していますが、商用で使う前には同梱のLICENSEファイルで許諾の範囲を確認するのが確実です。 モデルカードは、冒頭でもMaple-Previewをオープンソースと紹介しています。ただしLicenseの記述にあるのはMITライセンスで公開するという一文だけで、商用利用の可否や許諾の範囲には触れていません。

LICENSEファイルとはライセンスの全文が置かれた文書のこと。商用で使うことを具体的に考える場合は、リポジトリ内のLICENSEを開いて許諾の範囲をチェックします。

Maple-Previewは推論の力を優先して仕上げたプレビュー版です。毎秒218トークンは別の実行環境での数字です。エージェント系のベンチマークでは性能が落ちる場合があるとDeepGroveは書いており、本公開に向けては学習を続けるとしています。

Maple-Preview is released under the MIT License — ライセンスに関する記述より
公式情報を見る →

FAQ

Maple-Previewはどれくらい速いのですか?
公式の統計表示はM4搭載のMac miniで毎秒218トークンとしています。冒頭の文章に書かれているのは、毎秒200トークン超という速さと、Gemma 4・Qwen3.5・gpt-ossといった効率重視のモデルより5〜16倍速いという比較です。ただしApple Silicon上の数値は、同梱の実装ではなく別のオンデバイス実行環境で計測したものだとモデルカードに記載されています。
商用利用できますか?
モデルカードには、MITライセンスで公開されていると記載されています。商用利用の可否や許諾の範囲はライセンス本文に従うため、商用で使う前にリポジトリ内のLICENSEファイルで確認するのが確実です。
エージェント用途に使うことができますか?
DeepGroveは今回のプレビュー版について、エージェント系のベンチマークで性能が落ちる場合があるとしています。エージェント系タスク向けの事後学習が最小限で、一般的な強化学習も小規模にとどまるとモデルカードは述べています。本公開に向けて汎用的な性能を上げるために学習を続ける意向も書かれています。