Ollamaでモデルの設定を変更する方法

方法１（Modelfileを使う場合）

１．適当な名前でファイルを作成（例: myconfig.Modelfile）し、中身に以下を記述します。

FROM llama3 (使用したいベースモデル名)
PARAMETER num_ctx 4096

２．ターミナルで以下のコマンドを叩いて、新しい設定済みのモデルを作成します。

ollama create my-model-name -f myconfig.Modelfile

３．次からは ollama run my-model-name で起動すれば、常に 4096 のコンテキストサイズで開始されます。

方法２（Modelfileを使わない場合）

１．モデルを起動する

ollama run llama3

２．パラメータを変更する

/set parameter num_ctx 4096
/set parameter temperature 0.7

３．名前をつけて保存する

/save my-custom-model

※ すでに存在する名前を指定すると上書き（更新）されてしまいます。