ローカルLLMが賢くなてきた
2025年8月 gpt-oss-20bが発表になったころから、家庭のPCで動作できる比較的小さなモデルが賢くなってきたと思います。
gpt-oss-20b以前は、16GBのGPU環境で動作するローカルモデルにコーディングエージェントから何か仕事をさせようとしたとき幻滅感しかありませんでした。
gpt-oss-20bは16GBのGPU環境でも動作しツールコールも何とかこなします。16G環境で動作するモデルは、とりあえずダウンロードしてブラウザで動作するPONGゲーム作りをお願いしてできを確かめてきました。

最近のモデル
最近立て続けに、Gemma4 26B A4B, Qwen3.6 35B A3B, Qwen3.6 27Bこれらのモデルが発表され、お気軽に使えるLMStudioからダウンロードができるようになりました。
早速試してみました。
- Gemma4 26B A4B
PONGゲームは楽勝でしたので、テトリスをお願いすると良い感じのコードを出力します。ツールコールもそこそここなしますが、仕事を投げて目を離しているとループになって返ってこないことが多くありました。 - Qwen3.6 35B A3B
デコーダの速度がそこそこ早いです。ツールは普通に使えますし、コーディング性能も高いですが、コンテキストが長くなったり、本気で難しいことを考えると中国語が出てくるのが面白いです。 - Qwen3.6 27B
16GBでは少し厳しくjackrong/qwen3.6-27b Q3_K_S 12.1GBを選びました。unsloth/qwen3.6-27b Q3_K_S 14.2GBに比べて約2GBも小さいです。どうやら視覚部分のレイヤを取り去った物らしく自分の環境にはぴったりでした。コーディングで使おうとすると速度的に待ちきれないです。MoEモデルのサクサク感を味わった後だと辛いです。
Claude Code for VS Codeにつなげたい
ローカルLLMの場合はコンテキスト長とそこに収めるツールの量などの問題もあり、コーディングエージェントの種類によっても動作が変わってきます。
GitHub Copilot, Roo Code, OpenCode, Claude Codeを使っているなかで、世の中の評価の通り、コーディングにおけるユーザ体験はClaude Codeが頭一つ抜けていると感じています。
Claude Codeはモデルもさることながらエージェントも優れているのではと言った仮説が生まれてきます。これをローカルLLMにつなげてみたくなってきます。
自分はどのエージェントもVSCodeの拡張から使っています。CLIも入れてあるのですが、ついなんとなく拡張を呼び出して使う癖がついています。
一般的にClaude Codeからローカルモデルへの接続は、以下のような感じで環境変数を設定して、
$Env:ANTHROPIC_BASE_URL = "http://localhost:1234"
$Env:ANTHROPIC_AUTH_TOKEN = "lmstudio"
モデル名を引数に起動するらしいのですが、、
claude --model openai/gpt-oss-20b
VSCode拡張の場合はこんな感じで設定すれば良さそうでした。
.vscode/settings.json
{"claudeCode.environmentVariables": [{"name": "ANTHROPIC_BASE_URL",},{"name": "ANTHROPIC_AUTH_TOKEN","value": "lmstudio"}]}
ではモデルはどうやって設定するのか?
悩んだ結果、LMStudioのモデルの歯車マークを選んで、以下の「<>Load Model」ボタンでロードしたら、Claude Codeからそのモデルがお話できるようになりました。

ClaudeCodeのエージェント機能は良い
しばらくClaudeCodeからローカルLLMを使ってみて分かったことは、たぶんClaudeCodeのエージェント機能は優秀、しかしながらギリギリの環境で動いているローカルLLMには荷が重いです。
毎回、多くのコンテキストを消費する、しかもKVキャッシュが効きにくいプロンプトを投げることが多い。それはプロンプトプロセッシングに多くの時間を割く動作から推測できます。この動きはプロンプトの情報量が多いとも言い換えられると思いました。
ユーザ体験的にはClaudeCode+ローカルLLMは待ちきれない、と言うのが正直なところです。RooCode+ローカルLLMやGithubCopilot+ローカルLLMの方がレスポンス良く感じます。
最近の賢いモデル+ClaudeCodeでバラ色のオフラインコーディングライフを夢見ましたが現実は厳しいです。
昨今はメモリやGPUの相場も上がっており気軽にローカルPC環境を更新できません。折を見てもう少し快適な環境を揃えたいです。







