Colibrìとは？GPUも依存ライブラリも必要ない純Cの推論エンジン
Colibrìの素性（2026年9月1日時点の公式リポジトリより）
c/colibri.c）と、小さなヘッダ。公開版はv1.10.1Colibrìは巨大な言語モデルをご自身のパソコンで動作させるための推論エンジンで、本来なら大量のGPUが必要なZ.aiの744BモデルGLM-5.2もGPUなしで動作させます。 GLM-5.2の重みは、利用・改変・再配布を広く認めるMITライセンスで公開されています。
エンジン本体はCファイル1本と小さなヘッダだけ
Colibrìの本体はC言語で書かれたファイル1本と小さなヘッダだけで、行列計算用の外部ライブラリ（BLAS）も、実行時のPythonもGPUドライバも必要ありません。生成AIをローカルで動作させるソフトはPythonと大きなライブラリ群に頼るのが普通ですから、依存が少ないことが1つ目の特徴です。
ソースからビルドするならOpenMPに対応したgccかclangがあれば十分で、ColibrìはLinux・macOS・Windowsのいずれでも動作します。エンジンのライセンスはApache 2.0で、GLM-5.2の重みはZ.aiがMITで公開しています。
"The engine is a single C file (c/colibri.c) plus small headers. No BLAS, no Python at runtime, no GPU required" ／ "Apache 2.0. GLM-5.2 weights are released by Z.ai under MIT." — 前者は The idea 節、後者は License 節より公式情報を見る →対応モデルはGLM-5.2を含む8ファミリー
ColibrìはGLM-5.2以外のモデルも動作させることができ、2026年9月時点で8つのモデルファミリーに対応しています。 いちばん大きいものはMoonshotのKimi K3（2.8T）です。Cファイルはファミリーごとに異なりますが、起動コマンドはどれも./coli chatです。
GLM-5.2（744B）のほかに、Thinking MachinesのInkling（975B）やDeepSeek V4 Flash（284B）、画像入力にも対応するZ.aiのGLM-5.3-Flash（321B）が同じ仕組みで動作します。小さいほうでは、AlibabaのQwen3.6（35B）やAI2のOLMoE（7B）も使うことができます。
"Eight families run today: GLM-5.2 (744B), GLM-5.3-Flash (321B, with vision), Inkling (975B), Kimi K3 (2.8T), DeepSeek V4 Flash (284B), Qwen3.8-Flash-Next (125B + 51B n-gram), Qwen3.6 (35B-A3B) and OLMoE (7B)" — リポジトリ冒頭の説明より公式情報を見る →
MoEは重みを分けて置くのでRAM16GBのPCで走る
GLM-5.2のパラメータをどこに置くか
744BもあるモデルがなぜRAMの少ないパソコンで動作するのか。理由はモデルを小さくしたことではなく、置き場所を分けたことにあります。
1トークンで利用するパラメータは744Bのうち約40B
GLM-5.2はMoEモデルです。MoEとは層ごとに多数の小さなサブネットワーク（エキスパート）を並べ、そのうち数個だけを通す仕組みのこと。GLM-5.2の設定では各層の256個から8個を選びます。
744Bという数字はあくまでモデル全体の総量で、ひとつのトークンを作るのに実際に使うのは約40Bぶん、うち入れ替わる部分は約11GBにとどまります。 残りはそのトークンの計算では使われません。
モデル全体を速いメモリに置いておく必要はありません。Colibrìはこの性質を前提に、重みの置き場所を二つに分けています。
"A 744B Mixture-of-Experts model activates only ~40B parameters per token — and only ~11 GB of those change from token to token (the routed experts)" — The idea 節より公式情報を見る →
int4量子化とVRAM・RAM・ストレージの3階層
量子化とは重みの精度をあえて落としてデータ量を減らす手法のこと。どのトークンでも通る共通部分（約17Bぶん）を4ビットのint4で表すと約9.9GBまで小さくなり、RAMに置いたままにできます。
残りの1万9,456個のエキスパート（合計約370GB）はディスクに置いたままにし、どれを使うかを判断する振り分けの仕組み（ルーター）が指定したものだけをその都度読み込みます。よく使うエキスパートは層ごとのキャッシュに残るので、続けて使うほど読み込みは少なくなります。
ColibrìはVRAM・RAM・ストレージを別々の要件ではなく、同じ重みの置き場所として一続きに位置づけます。 速いメモリが不足すれば遅くなるだけで、モデルの中身は変わりません。
"the dense part (attention, shared experts, embeddings — ~17B params) stays resident in RAM at int4 (~9.9 GB)" ／ "the 19,456 routed experts (75 MoE layers × 256 + the MTP head, ~19 MB each at int4) live on disk (~370 GB) and are streamed on demand" ／ "VRAM, RAM, and NVMe are placement tiers for the same weights; limited fast memory changes speed, not model semantics." — 前2つは The idea 節の箇条書き2項目、最後は Core techniques 節より公式情報を見る →
ローカルLLMの速度はディスクの帯域が上限になる
GLM-5.2での実測デコード速度（公式リポジトリとdocs/benchmarks.mdより、条件つき）
同じエンジン・同じint4の重みでも、置き場所と設定で速度は100倍以上ひらきます。速度だけを抜き出すと比較にならないので、機種・設定・キャッシュ状態とセットで読んでください。
| 環境 | 設定・状態 | 実測 |
|---|---|---|
| RTX 5090×6、Xeon Silver 4510×2、251GB | 全エキスパート常駐・DRAFT=0 |
5.8〜6.8トークン/秒（最初の1トークンまで約13秒） |
| CPUのみのデスクトップ・128GB | キャッシュが温まった状態 | 約1.8トークン/秒 |
| Core Ultra 9 185H・32GB・RTX 5070 Ti | GPU常駐パイプライン（冷えた状態は0.03） | 1.07トークン/秒 |
| Apple M5 Max・128GB・内蔵SSD | デフォルト設定・MTPオフ | 1.06トークン/秒 |
| Ryzen AI 9 HX 370、128GB、WD SN850X | int8のMTPヘッド・46.7GBを自動固定 | 0.37トークン/秒 |
| JustVuggの開発機（WSL2 / 12コア / 25GB） | 冷えた状態（ドライブは約1GB/s） | 0.05〜0.1トークン/秒 |
重みをVRAM・RAM・ストレージに分けて置く以上、速度は置き先の性能次第です。同じColibrìでもドライブの読み出しが遅ければ、生成はそのぶん遅くなります。
GLM-5.2はローカルLLMとしてRAM16GB以上とNVMeを求める
GLM-5.2を動作させるのに必要なのはRAM16GB（24GBあれば余裕）と約372GBのモデルを置ける空きで、JustVuggはストレージにNVMe（高速なSSDの規格）を強く勧めています。なお、GPUはGLM-5.2を動作させるための要件ではなく、あれば速くなるという位置づけです。
公開当初に広まった「メモリ25GB」という数字は必要量ではなく、JustVugg開発機の搭載量です。現在の公式リポジトリでは冒頭の紹介文そのものが書き換わり、要件はRAM16GB以上と明記されています。
ただし公式のベンチマーク集はこの16GBを「大きなモデルには足りない」と書いており、16GBのマシンでもビルドと自己診断までは動作するものの、冷えた状態では1トークンあたり約11GBを読むため常駐に回せるRAMがほとんど残らず、速度の実測値は出ていません。JustVuggはこの規模のマシンにはGLM-5.2ではなく、OLMoEやQwen3.6を勧めています。
"You need two things: the program (a few hundred KB) and the model (372 GB)." ／ "~372 GB" ／ "16 GB min, 24 GB comfortable" ／ "not needed" — 1つ目は Get started 冒頭、以降は「What each one needs」表の GLM-5.2 行の Disk for the weights／RAM／GPU の各セルより公式情報を見る →
"16 GB is below the floor for the large models" ／ "an i5-12450H with 16 GB DDR5 and a DRAM-less QLC drive builds and passes the self-test on native Windows, but there is no decode number to report, because a cold token needs ~11 GB of expert reads and the RAM cap leaves almost nothing resident" ／ "On machines this size, run OLMoE or Qwen3.6 rather than GLM-5.2" — いずれも「Two datapoints that are not rows」節より公式情報を見る →
ボトルネックはディスクで速度は毎秒0.05〜6.8トークン
実測デコード速度の表のとおり速度は環境で100倍以上ひらき、JustVuggの開発機では毎秒0.05〜0.1トークン、RTX 5090を6枚積んで全エキスパートをメモリに置ききると毎秒5.8〜6.8トークンです。日本語で400字ほどの返答を300トークンとすると、開発機では50分から1時間40分、RTX 5090の6枚構成なら1分ほどで出力されます。
速さを左右しているのはCPUでもGPUでもなく、ディスクです。 エキスパートを1トークンごとに読み出す以上、ドライブの帯域がそのまま上限になります。
JustVuggはこの遅さを隠しておらず、「速くはない」と書いたうえでH100のファン1個より安いマシンで最上位級のモデルが正しく答えることを重視しています。Colibrìと他のエンジンでは目的がそもそも異なるので、速度だけを抜き出して並べても比較になりません。
"6× RTX 5090, full residency: 5.8–6.8 tok/s decode, TTFT ~13 s" ／ "128 GB CPU-only desktop: ~1.8 tok/s warm" ／ "single RTX 5070 Ti laptop-class box: 1.07 tok/s via the GPU-resident" ／ "25 GB dev box: 0.05–0.1 tok/s cold" — What it achieves 節の箇条書き4項目より公式情報を見る →
"the original dev box: WSL2, 12 cores, 25 GB RAM, NVMe via VHDX" ／ "1.06 tok/s · expert hit 23% · RSS 21.8 GB" ／ "0.37 tok/s · expert hit 66%" ／ "This is not fast. It is a 744B frontier-class model answering correctly on a machine that costs less than one H100 fan." — 1つ目と4つ目は Reference numbers 節、2つ目と3つ目は Community benchmarks 表の Apple M5 Max 行と Ryzen AI 9 HX 370 行の measured セルより公式情報を見る →
長時間動かすときのSSDの発熱とスワップ書き込み
エキスパートの読み込みは冷えた状態で1トークンあたり約11GBに達しますが、読み出しのみで書き込みは発生しないため、SSDはほとんど摩耗しません。 安いSSDを酷使して寿命が短くなるのではないかという心配を、JustVuggは否定しています。
かわりにJustVuggが実際の懸念として書いているのは、RAMが尽きたときのスワップと連続稼働の発熱の2つです。スワップとはRAMからあふれた分をディスクへ書き出すことで、この書き込みは本当にドライブを削るほか、安価なドライブは何時間もフル稼働で読み続けると熱を持ちます。 ドライブの温度と健康状態を監視しておくこととRAMの予算に余裕を持たせておくことで対処でき、どちらも難しくありません。
"Cold starts are heavy on random reads (~11 GB/token), but reads don't meaningfully wear an SSD — colibrì's streaming is read-only." ／ "The real concerns under heavy use are (1) swap traffic if the system runs out of RAM (writes do wear the drive — keep a sane" ／ "budget; colibrì's auto-budget is designed to stay clear of swap)" ／ "sustained thermals: hours at full read duty cycle will heat cheaper drives. Monitor drive temperature and health." — SSD note 節より公式情報を見る →
まとめ：条件はGPUの値段からディスクの帯域へ
巨大なモデルをご自身のパソコンで動作させることができるかどうかは、これまでGPUを何枚積めるかやいくら払えるかに左右されていました。ところがColibrìでは、その条件がストレージの帯域と容量に置き換わります。 744BのGLM-5.2が、RAM16GBと約372GBのNVMeで動作するのは、ストレージの帯域と容量が条件になるからです。
GLM-5.2は中国のZ.aiが公開するGLM系列のモデルです。速度は環境によって100倍以上変わるので、試すならご自身のドライブの読み出し速度を先に計測しておくと目安になります。
FAQ
- Colibrìとは何ですか？
- 巨大なMoEモデルを、ご自身のパソコンで動作させるためのC言語製の推論エンジンです。ストレージ・RAM・VRAMをひとつづきの階層とみなし、モデルの大半をディスクに置いたまま必要な部分だけを読み込みます。GLM-5.2の744BからKimi K3の2.8Tまでを対象にしています。
- GLM-5.2を動作させるのに必要なスペックは？
- RAMは16GBが最低ラインで24GBあれば余裕があります。あわせて約372GBのモデルを置く空きが必要で、ストレージはNVMeが強く推奨されます。GPUはなくても動作します。なお広まった「メモリ25GB」はJustVuggの開発機の搭載量であって、必要量ではありません。
- 実用的な速度は出ますか？
- 会話のテンポは出ません。JustVuggの開発機では毎秒0.05〜0.1トークンで、RTX 5090を6枚積んで全エキスパートを常駐させた構成でようやく毎秒5.8〜6.8トークンです。速さはディスクの帯域に左右されるので、数値を見るときは機種と設定をセットで確認してください。
関連する記事
CloudflareのGLM-5.3で155件の応答に他人のリクエスト内容が混入Cloudflare Workers AIのGLM-5.3で、8月27日〜9月9日に155件の応答へ他人のリクエスト内容が混ざりました。681,280トークンを超える長い入力への応答だけが対象です。Cloudflareは設定の不一致と推論エンジンSGLangの不具合が重なったと説明し、修正済みとのこと。
GLM-5.3のコーディング性能と重みの公開状況、Flashとの違いGLM-5.3の性能を、Z.aiが公表したコーディング50%向上とCyberGym 84.5%の公式ベンチと、公開後の個人検証・独立ベンチの結果で整理。重みは旗艦とFlashが別々に公開されています。
GLM-5.2とは？MITライセンスの744Bオープンモデルの性能と料金GLM-5.2はZ.aiがMITライセンスで公開したオープンウェイトの大規模言語モデルで、総パラメータ744Bのうち1トークンで動作するのは約40Bです。API料金は100万トークンあたり入力1.4ドル（約226円）・出力4.4ドル（約711円）で、Coding PlanではGLM-5.2を指定してもGLM-5.3が動作します。
停電でも使えるオフラインAI「Survival LLM」の機能と導入方法Survival LLMは、パソコンの中だけで動作する無料のオフラインAIです。Wikipedia約93万本や米国の防災・医療機関の資料をあらかじめ入れておけば、停電でネットが止まっても出典付きで答えます。AIモデルを使うにはメモリ16GB以上が目安で、開発者のテストでは大きいモデルほど正確でした。