
Inkling-Smallは活性12BのマルチモーダルMoE
Inkling-Smallは、Thinking Machines Labが2026年7月30日に公開したAIモデルです。このモデルは総276B・活性12BのMoE構成をとり、規模は親モデルInklingの約1/4です。 公式の仕様をまとめたモデルカードには、各トークンが256のエキスパートのうち6つへ振り分けられ、全トークンで働く共有のエキスパートも2つあると記載されています。
パラメータとはモデルが学習を通じて調整する数値のことで、活性パラメータとは1つのトークンを処理するときに実際に計算に使う分のことです。276Bや12Bの「B」は10億を表す単位で、Inkling-Smallは総276Bのうち12Bだけを1トークンごとの計算に使います。
総パラメータは276÷975で約28%、活性パラメータは12÷41で約29%です。公式発表の表現は1/4の規模ですが、実際の比率はどちらも1/4をわずかに超えています。
マルチモーダルとは、文字に加えて画像や音声など種類の異なる情報を処理できることです。モデルカードでは、テキスト・画像・音声を受け取ってテキストを出力するモデルと記載されているとのこと。2つのモデルの規模と文脈の長さは次のとおりです。
Inkling-SmallとInklingの規模と文脈の長さ
| 指標 | Inkling-Small | Inkling |
|---|---|---|
| 総パラメータ | 276B | 975B |
| 活性パラメータ | 12B | 41B |
| 文脈の長さ | 最大100万トークン | 最大100万トークン |
文脈の長さとはモデルが1回のやり取りで読み込める情報量の上限のことです。公式発表によれば、2つのモデルはどちらも最大100万トークンの文脈を読み込めるとのこと。「Inkling-SmallとInklingの規模と文脈の長さ」の表のとおり、2つのモデルでは総パラメータと活性パラメータの値が異なります。
"Today, we are releasing Inkling-Small, an efficient open-weights model that achieves comparable performance to Inkling at a quarter of its size."/"Inkling-Small is a Mixture-of-Experts transformer with 276B total parameters, 12B active, trained on NVIDIA GB300 NVL72 systems. Like Inkling, it features native reasoning over audio and images, variable thinking effort, a context window of up to 1M tokens, and well-rounded performance across a range of benchmarks."/"975B total"/"41B active" — Thinking Machines Lab 公式発表(2026年7月30日)の冒頭とパラメータ比較図より公式情報を見る →
"Inkling-Small is a general-purpose multimodal model that accepts text, image and audio inputs and generates text outputs."/"A 42-layer decoder-only transformer with a sparse Mixture-of-Experts (MoE) feed-forward backbone: each token is routed to 6 of 256 experts, plus 2 shared experts active on every token."/"276B total, 12B active"/"Inkling-Small supports a context window of up to 1M tokens." — Inkling-Small モデルカード「Intended uses」「Architecture type」「Parameters」より公式情報を見る →
Thinking MachinesのApache 2.0公開
重みとは学習を終えたモデルの中身を構成する数値データのことです。この重みを、Thinking Machines Labは2026年7月30日にすべて公開し、ライセンスにはApache 2.0を採用しました。
モデルカードには重みを公開した目的も書かれています。研究やファインチューニングのほか、他の開発者が製品へ組み込めるようにするためとのこと。
モデルカードには、利用規定であるModel Acceptable Use Policyへのリンクも置かれています。また法務に関する記載には、学習データの説明文書Training Data Documentationへのリンクもあります。
"Jul 30, 2026"/"We are releasing the full weights of Inkling-Small." — Thinking Machines Lab 公式発表より公式情報を見る →
"Date of release"/"July 30, 2026"/"License"/"Apache 2.0"/"It is released with open weights to support research, fine-tuning and integration into third-party products by downstream developers."/"Model Acceptable Use Policy"/"Training Data Documentation" — Inkling-Small モデルカード「1. General information」「8. Legal」より公式情報を見る →
出力価格は100万トークン1.20ドルで、親の約3割
出力価格とは、モデルが文章を生成するときに100万トークンごとにかかる料金のことです。この出力価格は、公式発表によるとInkling-Smallが1.20ドル(約188円)で、Inklingの4.05ドル(約635円)の約3割です。
価格の比は1トークンごとの計算に使うパラメータの比とほぼ同じです。Thinking Machines Labは、出力の計算量を「2×活性パラメータ×平均生成トークン数」で見積もっています。同じ数のトークンを生成するなら計算量は活性パラメータに比例し、12÷41でおよそ3割です。
"Output TFLOPs per sample are estimated as 2 × active parameters × mean generated tokens per sample"/"Inkling output pricing is $4.05 / 1M tokens and Inkling-Small output pricing is $1.20 / 1M tokens" — Thinking Machines Lab 公式発表の性能と計算量・費用の比較図の説明より公式情報を見る →
蒸留と強化学習で多くの推論とコーディング指標は親を上回る
エージェント型のコーディングとは、AIが自らツールを使いながらプログラムを書き進める使い方のことです。この使い方を含む推論とエージェント型コーディング評価で、Inkling-Smallは親モデルのInklingを超えました。
親を上回れたのは、Inkling-Smallが親より後に学習に着手したためです。公式発表によれば、開発チームは後発のぶん学習の工程を見直せたとのこと。改善の中身は次の3つです。
- 学習の手順と、事前学習で使うデータの配合を変更した
- 途中段階で保存したモデルを仕上げる際に、Inklingを教師にした蒸留を一部で使った
- 仕上げたモデルを起点に、エージェント型コーディングの強化学習を2週間続けた
蒸留と強化学習は、どちらもモデルを学習させる方法の名前です。それぞれの中身は、このあと順に取り上げます。
"Inkling-Small began training after its larger counterpart, which let us improve its training process. For example, we made changes to Inkling-Small’s pre-training data mix and machine learning recipe."/"With these improvements, Inkling-Small surpassed Inkling on reasoning and agentic coding benchmarks." — Thinking Machines Lab 公式発表「Capabilities」節より公式情報を見る →
Inklingを教師にしたon-policy蒸留を一部で採用
蒸留とは大きなモデルの出力を手本にして小さなモデルを学習させる方法のことです。この蒸留を、Inkling-Smallは仕上げの学習段階の一部で使い、親モデルのInklingを教師にしました。
事前学習とは、大量の文章などを使ってモデルに言葉や知識の基礎を身につけさせる最初に行う学習のことです。公式発表によれば、Inkling-Smallはこの段階で使うデータの配合と、機械学習の手順に手を加えています。 チェックポイントとは学習の途中で保存したモデルの状態のことです。
公式発表によれば、早い段階のチェックポイントであるInkling-Small (preview)を事後学習し、その一部にon-policy蒸留を使っています。on-policy蒸留は、学習中の小さなモデルが生成した出力をもとに、教師モデルから学ぶ方式です。
"we made changes to Inkling-Small’s pre-training data mix and machine learning recipe."/"we post-trained an earlier checkpoint"/"Inkling-Small (preview)"/"in part using on-policy distillation with Inkling as the teacher." — Thinking Machines Lab 公式発表「Capabilities」節より公式情報を見る →
エージェント型コーディングの強化学習を2週間継続
強化学習とはよい結果に報酬を与えながら試行を繰り返し、AIの振る舞いを改善する学習方法のことです。この方法で、Inkling-Smallは蒸留を使って仕上げたチェックポイントを起点に、エージェント型コーディングの強化学習を2週間続けました。
Thinking Machines Labは蒸留で仕上げたチェックポイントを起点に、強化学習の規模を広げながら2週間続けました。この2週間は学習にかけた期間で、InklingとInkling-Smallが公開された日の間隔とは別の数字です。
"Starting from that checkpoint, we continued scaling agentic coding RL for two weeks." — Thinking Machines Lab 公式発表「Capabilities」節より公式情報を見る →
SWE-BenchとHLEのベンチマークで親を上回るスコア
ベンチマークとは、AIモデルの性能を共通の問題集で採点して比較するための試験のことです。そのベンチマークを集めた公式の表では、HLEやSWEBench Verifiedなど推論とコーディングの指標で、Inkling-SmallがInklingを超えました。
HLEとはHumanity's Last Examの略で、推論の力を評価するベンチマークのことです。HLEでは、Inkling-Smallが31.6%でInklingの29.7%を超えます。
思考量(回答を出す前に考えるために使うトークンの量)を増減させても、HLEの順位は逆転しません。公式発表によれば、思考量ごとの性能を結んだ曲線は、どの設定でもInkling-SmallがInklingより上にあるとのこと。コーディングのSWEBench Verifiedでも、80.2%でInklingの77.6%を2.6ポイント超えています。
主な4指標の値は、公式発表に記載の測定条件のもとでの結果です。評価はすべて思考量の設定を0.99に、回答のばらつきを定める温度を1.0にそろえて行ったとのこと。InklingとInkling-SmallがSWEBench Verifiedで記録した値は、コマンド操作に限定した評価環境での計測結果です。
Terminal Bench 2.1では、Web検索で見つけた回答が混ざっていた少数の解答を0点にしています。主な指標の値は次の図のとおりです。
Inkling-SmallがInklingを超えた主な指標
HLE・SWEBench Verified・Terminal Bench 2.1の棒は、0〜100のスコア(%)で高いほど高性能。GDPval-AA v2の棒の高さは点数の最大値を100とした比。出典: Thinking Machines Lab公式発表の評価表。
GDPval-AA v2だけは百分率ではなく点数で書かれています。百分率で表す3指標の中で、最も差が大きいのはSWEBench Verifiedの2.6ポイントです。
"On Humanity’s Last Exam it scores 31.6%, ahead of Inkling’s 29.7%, and the advantage holds at every thinking budget: Inkling-Small’s test-time compute curves sit above Inkling’s throughout. On SWEBench-Verified it exceeds 80%."/"All evals run at effort 0.99 and temperature 1.0."/"Inkling and Inkling-Small’s numbers are reported using a bash-only harness."/"Inkling and Inkling-Small’s numbers are reported using an internal coding harness. A small number of solutions were found to be contaminated from web search and were assigned a score of 0." — Thinking Machines Lab 公式発表「Reasoning and Agentic Tasks」「Benchmarking Inkling-Small」節と評価表の注記より公式情報を見る →
知識と事実性、一部の推論では親モデルが勝る
事実性とはAIの回答が事実として正しいかどうかという性質のことです。この事実性と知識の網羅性を測る指標では、Inkling-Smallが親モデルのInklingを下回りました。
親モデルのほうが高い指標のうち、ポイント差が最も大きいのは事実性を評価するSimpleQA Verifiedです。公式の表では、Inkling-Smallが20.6%でInklingが43.9%とのこと。Inkling-Smallの値は親モデルの半分以下にとどまります。
推論やエージェントの分野にも親モデルのほうが高い指標があります。公式の表では、推論のAIME 2026でInklingが97.1%となり、Inkling-Smallの95.5%を超えるとのこと。エージェント分野のTau 3 Bankingでも、23.7%と15.5%でInklingが上です。
親モデルのほうが高い主な指標は次の図のとおりです。各指標の分野名は公式の表の分け方に合わせています。
InklingがInkling-Smallを超えた主な指標
棒は0〜100のスコア(%)で高いほど高性能。出典: Thinking Machines Lab公式発表の評価表。
事実性の分野には、マイナスの値もとる指数のAA Omniscience indexもあります。Inkling-Smallが-9.0でInklingが2.1となり、この指標でも親モデルが上です。
"Inkling maintains an advantage on knowledge coverage and factuality."/"Inkling-Small against open- and closed-weights models across the full eval suite." — Thinking Machines Lab 公式発表「Capabilities」節と評価表の説明より公式情報を見る →
オープンウェイトモデル同士は指標ごとに勝ち負けが異なる
オープンウェイトモデルのうち同じ規模のものと並べると、Inkling-Smallは指標ごとに勝ち負けが異なります。 総パラメータと活性パラメータが最も近い相手は、DeepSeek V4 Flashです。公式の表によると、DeepSeek V4 Flashは活性13B・総284Bとのこと。Inkling-Smallの活性12B・総276Bとほぼ同じ規模です。
コーディングの2指標ではInkling-Smallのほうが高い値です。公式の表によると、SWEBench VerifiedはInkling-Smallが80.2%で、DeepSeek V4 Flashが79.0%とのこと。Terminal Bench 2.1も、64.7%と61.8%でInkling-Smallが上です。
しかし推論のHLEと事実性のSimpleQA Verifiedでは、DeepSeek V4 Flashのほうが高い値です。HLEは32.1%と31.6%で差は0.5ポイントですが、SimpleQA Verifiedは34.1%と20.6%で13.5ポイント開いています。
公式の表からInkling以外のオープンウェイトモデルを抜き出すと、次の図のとおりです。活性パラメータは10BのMinimax M2.7から、55BのNemotron 3 Ultraまで幅があります。
同じ規模帯のオープンウェイトモデルの主な指標
棒は0〜100のスコア(%)で高いほど高性能。オレンジの棒がInkling-Small。出典: Thinking Machines Lab公式発表の評価表。
図の5指標のうち、6モデルの中でInkling-Smallが最も高い値を出したのは3つです。対象はSWEBench VerifiedとTerminal Bench 2.1、指示への従い方を評価するIFBenchです。
規模が最も近いDeepSeek V4 Flashと比較しても、この3指標はすべてInkling-Smallが上回っています。公式発表によれば、同じ規模帯のオープンウェイトモデルと比較して、性能でも効率でも引けを取らないとのこと。
"We show that Inkling-Small is competitive with other open-weights models in a similar size range on both performance and efficiency."/"Inkling-Small against open- and closed-weights models across the full eval suite. Activated and total parameters are given for scale; a dash means the score was not available at the time of writing." — Thinking Machines Lab 公式発表の性能比較図と評価表の説明より公式情報を見る →
思考量の設定で性能と価格を調整可能
思考量とはAIが回答を出す前に考えるために使うトークンの量のことです。この思考量を調整して、Inkling-Smallは用途に合わせて性能と費用の釣り合いを取ることができます。
設定の幅は最も少ないminimalから最も多いxhighまでです。Thinking Machines Labは思考量を段階ごとに切り替えながら、Terminal Bench 2.1・HLE・IFBenchの3つで性能と費用を計測しました。費用は平均生成トークン数に出力価格を掛けて見積もっています。
思考量を増やすと生成するトークンが増え、そのぶん費用も上がります。出力価格が1.20ドル(約188円)のInkling-Smallなら、同じトークン数でも費用はInklingの約3割にとどまります。
"Furthermore, its variable thinking effort lets users easily adapt it to target their use case, balancing cost and performance."/"Sweeping reasoning effort from minimal to xhigh traces the performance-cost curve (dollar output price per sample) for Inkling-Small and Inkling on Terminal-Bench 2.1, HLE (no tool), and IFBench."/"Estimated output cost per sample is computed as mean generated tokens per sample × output price per token, where generated-token counts include reasoning tokens" — Thinking Machines Lab 公式発表の性能と費用の比較図の説明より公式情報を見る →
量子化版はVRAM 180GB以上、B300なら1枚で動作
量子化を施したNVFP4版はGPUのメモリが合計180GB以上あれば動作し、NVIDIA B300なら1枚で十分です。 VRAMとは、GPUが専用に持つメモリのことです。
モデルカードによればチェックポイントはBF16とNVFP4の2形式で配布され、NVFP4は量子化で必要なメモリを減らした形式と記載されています。BF16版の600GB以上に対してNVFP4版は180GB以上で、必要量の下限には約3.3倍の差があります。
W4A4とW4A16はNVFP4版を動作させるときの計算方式の名前です。モデルカードではW4A4がB300を1枚、W4A16がH200を2枚使う構成とのこと。W4A4ではさらにSM100以降のアーキテクチャ(GPUの設計)が必要です。
"The model is distributed in two checkpoint formats."/"The NVFP4 checkpoint offers a quantized alternative that reduces the aggregated VRAM requirement to at least 180 GB."/"W4A4 on 1x NVIDIA B300 GPU (note: W4A4 mode additionally requires SM100+ architecture)"/"W4A16 on 2x NVIDIA H200 GPUs" — Inkling-Small モデルカード「Required hardware」より公式情報を見る →
BF16版はVRAM合計600GB以上のGPUクラスタが必要
GPUクラスタとは、複数のGPUを連携して1つの計算環境として使う構成のことです。この構成で量子化していないBF16版を動作させるには、VRAMが合計600GB以上必要です。
必要な枚数はGPUの種類によって異なります。モデルカードには、NVIDIA B300なら4枚、H200なら8枚という構成が書かれているとのこと。NVFP4版の構成はB300が1枚とH200が2枚で、どちらも枚数は1/4です。
形式ごとの必要量と構成は次のとおりです。GPUの設計にも条件がつくのはW4A4の構成だけです。
| 形式 | 必要なVRAM(合計) | モデルカードに記載の構成 |
|---|---|---|
| BF16 | 600GB以上 | B300を4枚かH200を8枚 |
| NVFP4(W4A4) | 180GB以上 | B300を1枚(SM100以降が必要) |
| NVFP4(W4A16) | 180GB以上 | H200を2枚 |
"The BF16 checkpoint requires a GPU cluster with at least 600 GB of aggregated VRAM. This can be met with either of the following configurations:"/"4x NVIDIA B300 GPUs"/"8x NVIDIA H200 GPUs" — Inkling-Small モデルカード「Required hardware」より公式情報を見る →
対応するのはvLLMやHugging Faceなど5種
フレームワークとは、モデルを動作させる処理の基本部分をまとめたソフトウェアのことです。そのため、GPUでInkling-Smallを直接実行するには、モデルカードに記載された5つの推論フレームワークのうち1つが必要です。
対応するフレームワークは、SGLang・vLLM・TokenSpeed・Unsloth・Hugging Face(AIモデルの配布や実行に使うソフトをそろえたサービス)の5つです。モデルカードによれば、いずれか1つと動作に必要な関連ソフト一式をそろえるのが条件とのこと。
"Running the model directly on GPU hardware requires an inference deployment framework–either SGLang, vLLM, TokenSpeed, Unsloth, or Hugging Face, along with all of their respective dependency libraries." — Inkling-Small モデルカード「Required software」より公式情報を見る →
画像入力は各辺40〜4096px、音声入力は2分未満を推奨
pxとは画像の縦や横の大きさを点の数で表すピクセルという単位のことです。この単位で表すとモデルカードが推奨する入力は、各辺40〜4096pxの画像と、WAV形式・16kHzで2分未満の音声です。
画像の各辺40〜4096pxも音声の2分未満も、モデルカードでは最適な性能を出すための目安として書かれています。画像はピクセルで表せるものなら入力できるとのこと。
モデルカードの評価では、長辺が2048px未満の画像を拡大してから処理しています。拡大後の長辺は元の長辺の2倍と2048pxのうち小さいほうです。
"Image: Any pixel-based image input. For optimal performance, each image dimension should be between 40px to 4096px."/"Audio: WAV format, sampled at 16kHz. For optimal performance, audio length should ideally be under 2 mins."/"Inkling-Small supports a context window of up to 1M tokens."/"For all input images whose long edge is smaller than 2048 px, we resize the long edge to the smaller of 2048 px or 2× its original length." — Inkling-Small モデルカード「Input modalities」と「5. Evaluations」の注記より公式情報を見る →
Tinkerで追加学習、Hugging Faceで重みを入手
Tinker(ティンカー)とは、Thinking Machines Labが提供するファインチューニングの基盤のことです。このTinkerを通じてInkling-Smallをファインチューニングすることができ、重みはHugging Faceから入手できます。
APIとは外部のプログラムからモデルを呼び出して使う仕組みのことです。モデルカードによればTinkerはAPIでの利用にも対応します。NVFP4版の重みは別の配布先に置かれ、外部の推論事業者を通じたAPIも用意されているとのこと。推論事業者ごとの使い方は各事業者の文書に書かれています。
Tinker Playgroundでは、テキスト・画像・音声を使ってチャットできます。モデルカードによれば、Tinkerの使い方はTinker Cookbookという手引きで確認できるとのこと。ローカル環境にGPUがない場合も、Tinkerか推論事業者のAPIで試すことが可能です。
"The weights are available for download through Hugging Face"/"Developers can also access the model using the Tinker fine-tuning platform, which provides API access."/"The model is also available via API access through third party inference providers."/"For accessing our model via Tinker, you can get started by referring to the Tinker Cookbook"/"For accessing our model via third party inference providers, you can refer to the documentation from our inference provider partners." — Inkling-Small モデルカード「3. Methods of distribution」より公式情報を見る →
"We are releasing the full weights of Inkling-Small. We’re also making it available for fine-tuning on Tinker, and for text, image, and audio chat on Tinker Playground" — Thinking Machines Lab 公式発表より公式情報を見る →
ライセンスはApache 2.0で、モデルカードは制約も記載
ライセンスとはソフトウェアやモデルを使うときの条件を定めた取り決めのことです。このライセンスとしてInkling-SmallはApache 2.0を採用し、モデルカードは利用する側が注意すべき限界も書いています。
ハルシネーションとはAIが事実と異なる内容を、正しい情報であるかのように生成することです。モデルカードによれば、大規模なAIモデルに共通する限界は、Inkling-Smallにも見られることがあるとのこと。主な限界は次の6つです。
- ハルシネーションが起こる
- 指示に正確に従えない場合がある
- 長いやり取りが続く会話で性能が落ちる
- 学習データに由来する偏りが出る
- 言語や方言や分野によって性能にばらつきがある
- 知識は学習の締め切り時点までに限られる
モデルカードは医療・法務・安全に関わる判断について、追加のファインチューニング・分野別の検証・人による監督の3つをそろえてから使うよう勧めています。高リスクな用途では、出力をそのまま使わず人が確認することもモデルカードは推奨します。
安全面で残るリスクもモデルカードに書かれています。有害な話題でも、役割を演じさせる指示や間接的な言い回しには応じる場合があるとのこと。入力と出力を検査するLlama Guardなどのツールについても、組み合わせて使うことができるとしています。
Apache 2.0で公開されたInkling-Smallは、NVFP4版ならGPUのメモリが合計180GB以上あれば動作します。構成の目安はB300が1枚かH200が2枚とのこと。Tinkerや推論事業者のAPIを使えば、ご自身のGPUがなくても試すことができます。
"License"/"Apache 2.0"/"Inkling-Small may exhibit general limitations common to foundation models, including hallucination (generating plausible but factually incorrect or unsupported content), occasional failures to follow instructions precisely, and degraded performance in long multi-turn conversations."/"Inkling-Small may reflect biases present in its training data, including demographic, cultural, or linguistic biases, and may perform unevenly across languages, dialects, or subject domains that were less represented during training."/"Inkling-Small’s knowledge is limited to information available as of its training cutoff"/"We recommend that downstream developers and deployers apply appropriate human oversight and review for outputs used in high-stakes or safety-critical contexts"/"Avoid deploying Inkling-Small in domains such as medical, legal, or safety-critical decision-making without additional fine-tuning, domain-specific validation, and human oversight"/"Inkling-Small’s occasional tendency to comply with role-play and indirectly framed prompts concerning harmful topics"/"Common downstream moderation tools, such as Llama Guard, are compatible with Inkling-Small and can be layered around the model to catch jailbreak attempts, filter unsafe outputs, and enforce use-case-specific policies." — Inkling-Small モデルカード「1. General information」「6. Safety」「7. Bias, risks and limitations」より公式情報を見る →
FAQ
- Inkling-Smallとは何ですか?
- Thinking Machines Labが2026年7月30日にリリースし、重みも公開しているAIモデルです。公式発表によれば、約1/4の規模で親モデルInklingと同等の性能を出すとのこと。テキスト・画像・音声を受け取ってテキストで答えます。
- 親モデルのInklingより性能が高いのですか?
- 推論とエージェント型のコーディングのベンチマークでは上回り、知識の網羅性と事実性では下回ります。事実性を測るSimpleQA Verifiedでは20.6%で、Inklingの43.9%の半分以下でした。
- Inkling-Smallをローカル環境のGPUで実行するには、どんな機材が必要ですか?
- 量子化したNVFP4版ならVRAMが合計180GB以上あれば動作します。モデルカードによればW4A4ならNVIDIA B300が1枚で、W4A16ならH200が2枚の構成とのこと。量子化していないBF16版は合計600GB以上が必要です。
- Inkling-Smallのライセンスは何ですか?
- ライセンスはApache 2.0です。モデルカードによれば、重みを公開したのは研究やファインチューニングに加えて、他の開発者が製品へ組み込めるようにするためとのこと。モデルカードには、利用規定のModel Acceptable Use Policyへのリンクもあります。



