以下の内容はhttps://timtoronto634.hatenablog.com/entry/2024/05/19/171709より取得しました。


ollama を repository から動かす

Ollama は stop 実装がまだない

実装読む限り signal handling はしてるようにみえるから signal 送ったんだけどプロセスが止まらない

CLI だとどうもbackground で実行してしまうので、開発のように動かしたい。そこで repository を clone して動かす。環境は Ubuntu

https://github.com/ollama/ollama

こちらをclone して、

go generate ./...

go run . serve

generate を忘れると、

llm/llm_linux.go:5:12: pattern build/linux/*/*/bin/*: no matching files found

とエラーが出るので注意。

また、既に ollama を動かしていて、 install 時に install.sh を使っていると、Systemd が使われているので、process が動き続けている。

$ ps aux | grep ollama
ollama      1837  1.4  0.3 11656164 306144 ?     Ssl  15:26   0:03 /usr/local/bin/ollama serve

に対し、 kill -2 しても process が残り続けていた(正しくは何度も再起動されていた)のはそういうわけだった




以上の内容はhttps://timtoronto634.hatenablog.com/entry/2024/05/19/171709より取得しました。
このページはhttp://font.textar.tv/のウェブフォントを使用してます

不具合報告/要望等はこちらへお願いします。
モバイルやる夫Viewer Ver0.14