M2 MacでのローカルLLMコーディング、最先端モデルの約75%に

64GBのM2 Macで最先端モデルの約75%の精度に到達

Boykis氏は2026年6月15日のブログで、2022年のM2 Mac(メモリ64GB)でエージェント型コーディングを回すと、最先端モデル(ClaudeやGPTなどクラウドの最上位モデル)の約75%の精度と速度に届いたと報告しました。エージェント型コーディングとは、AIがコードを出力して実行し、結果を確認して修正する使い方です。また、同じ作業は半年前まで自分のPCでは無理だったとしています。

約75%という数字はベンチマークの結果ではなく、「APIモデルで回答を検算する必要があるか」を基準にしたBoykis氏の体感で、科学的な根拠は無いと本人も認めています。GPT-OSS(OpenAI)が登場してからは、その検算の頻度が大きく減ったとのこと。以前のローカルモデルの主な用途は、最新情報を必要としない開発の疑問をPC上で調べる検索の代わりでした。

I have a 2022 M2 Mac with 64 GB RAM and 1TB storage … I've finally been able to do agentic coding locally and have loops work at about ~75% the accuracy/speed of frontier models … do I have to double-check it against an API model … GPT-OSS was the first one where I started doing that a lot less often — ブログ本文より(使用マシンとローカルでのagentic codingの到達度、APIモデルとの検算頻度が減ったことに関する記述)
公式情報を見る →

Gemma 4をローカルLLMのデフォルトにしてLM Studioで使う

普段使うモデルはGemma 4ファミリーのLM Studio版「gemma-4-26b-a4b」で、LM Studio上で動作させています。 オープンウェイト(企業が学習済みモデルの重みを無償公開し、誰でもダウンロードして動作させることができる形式)で出たばかりの「gemma-4-12b-qat」も、小さく速く精度の低下も少ないので、併用しています。これまでに試したモデルは次のとおりです。

  • Google製: Gemma 4(gemma-4-26b-a4b・gemma-4-12b-qat)とGemma 3
  • Mistral・OpenAI・Alibaba製: Mistral 7BとGPT-OSS-20B(OpenAIのオープンウェイトモデル)、Qwen 3 MoEとQwen 2.5 Coder

実行環境は現在LM Studioを推論サーバーに、Piをエージェントのハーネスに使っています。過去には、Ollama・llama.cpp+Open WebUI・llama-cpp-python・llamafileも試したとのこと。llama.cppを直接使えばもっと速くなるはずだとBoykis氏は書いており、今後試すつもりだとしています。

AIエージェントに任せた作業とローカルLLM性能の限界

実際に任せているのは次のような定型寄りの作業で、Boykis氏はいずれも画期的な仕事ではないと評価しています。 ノートブックの整理からテスト作成まで、日々の細かな開発タスクが中心です。

  • ノートブックだったPythonスクリプトを、5〜6個のモジュールへ分割するリファクタリング
  • ジェネリクスの型ヒントを正しく付けるリント対応
  • ブログ記事の校正とユニットテストの作成
  • 推薦システム用two-towerモデルのひな形作りと、arXivのトレンド話題を拾うアプリの開発

一方で、未解決の課題もBoykis氏は認めています。内容は次の3つです。

  • 推論が遅いことがある
  • コンテキストウィンドウ(AIが一度に読み書きできる文章量の上限)が狭く、使うPCのハードウェアに縛られる
  • 公開直後のモデルは、プロンプトテンプレートの不一致が発生する(たいていすぐ修正されるが)

Boykis氏は結論として、本番のソフトウェア開発に適した段階かどうかはまだ確信がないとしています。約75%という数字が出た今も、任せているのはリファクタリングやテスト作成などの定型寄りの作業です。

Refactor a Python script that was a notebook into a repo of 5-6 modules … lint that module … proofread some blog posts, write unit tests … bootstrap a repo that stands up a two-tower model for recommendations — ブログ本文より(ローカルモデルに任せた作業の列挙)
公式情報を見る →

導入は推論エンジンとエージェントの連携、Docker内の動作

試すには推論エンジン・エージェントのハーネス・モデル本体の3点を用意し、ハーネスの接続先をPC上の推論エンドポイント(推論エンジンが応答を出力する窓口)に設定します。 Boykis氏はPiをLM Studioと連携して運用しています。

安全策としてPiのセッションは毎回Dockerコンテナの中で動作させ、権限はbashだけに限定しています。Python実行やWeb閲覧はエージェントに許可せず、ディスク上のファイルやディレクトリを誤って消されないようにしています。

ローカルLLMならではの利点は、トークンが生成される過程をその場で観察できることです。システムプロンプト・量子化(モデルのパラメータを軽量な精度へ変換する処理)・モデル同士の比較・ハーネス側の挙動を、自分のPC上で1つずつ変えながら試すことができます。

ローカルLLMを使ったコーディング環境の構築はColibrìとは?744Bモデルを16GBのPCで実行する推論エンジンでも取り上げています。長文のドキュメントをローカルのモデルに読み込ませるときは、あらかじめMarkdown(マークダウン)形式へ整えておくと、階層構造や表構造を保ったまま提供することができます。

FAQ

ローカルLLMのコーディングはクラウドのAIを置き換えられますか?
まだ置き換えられる段階ではありません。任せられるのはリファクタリングやテスト作成、文章の校正といった定型寄りの作業で、報告したVicki Boykis氏も、本番のソフトウェア開発に適した段階かはまだ確信がないとブログで述べています。
ローカルLLMでコーディングするにはどんなPCが必要ですか?
必須スペックとして公表されたものではありませんが、報告したVicki Boykis氏が使っているのは2022年のM2 Mac(メモリ64GB・ストレージ1TB)です。エージェント型コーディングを実行すると作業中にK-Vキャッシュがメモリいっぱいまで膨らむため、メモリ容量が実用度を左右します。
ローカルLLMでコーディングを行うには何を用意すればよいですか?
推論エンジン・エージェントのハーネス・モデル本体の3つを連携します。ハーネスをPC上の推論エンドポイントへ向け、推論エンジンがダウンロードしたモデルを配信する構成です。PC上のファイルを誤って消されないようエージェントの実行権限をDockerコンテナの中に閉じるのが、Vicki Boykis氏の安全策です。