Claude Code と llama.cpp を使って SLM (small language model) によるコーディングを行ってみた。

はじめに

以前の続きです。

touch-sp.hatenablog.com

今回はSLM (small language model) に限定して、以下のノートPCでコーティングを行いました。

Windows 11 Home
Core i7-12700H
GeForce RTX 3080 Laptop VRAM 16GB
RAM: 32GB
SSD: 1TB NVMe SSD

.NET Frameworkを使って、簡単なC#アプリの作成を試しています。

SLM (small language model) とそこまで高性能でないPCでどこまで可能かを探る目的です。

命題（プロンプト）

ユーザーから年齢(age)と血清クレアチニン値(creatinine)と性別を入力してもらい、それをもとにeGFRを計算するアプリを作ってください。

計算式は以下になります。

男性
```
eGFR = 194 * Math.Pow(creatinine, -1.094) * Math.Pow(age, -0.287)
```

女性
```
eGFR = 194 * Math.Pow(creatinine, -1.094) * Math.Pow(age, -0.287) * 0.739
```

eGFRは小数点第3桁目を四捨五入して小数点以下2桁で回答するようにして下さい。

コードを書き終えたらRelease Buildをお願いします。

結果

まずは Claude Sonnet 4.6 で試してみました。当然うまくいきました。

プロンプトに単位を書いていないのですが、単位をつけてくれました。

Qwen3.5-9B

llama-server -m /home/hoge/models/Qwen3.5-9B-Q4_K_M.gguf --temp 0.6 --top-p 0.95 --top-k 20 --min-p 0.0 --repeat-penalty 1.0

こちらも Claude Sonnet 4.6 と同様に単位をつけてくれました。

Jan-code-4b

上記Qwen(9B)よりもさらに小さい4bモデルです。

llama-server -m ~/models/Jan-code-4b.gguf --temp 0.7 --top-p 0.8 --top-k 20

さすがに単位はつかなかったですが、問題なくアプリ作成ができました。

LocoOperator-4B

llama-server -m /home/hoge/models/LocoOperator-4B.Q8_0.gguf -c 51200

残念ながらこちらのモデルではうまくいきませんでした。