第二十六篇-Ollama-监听本地IP与端口

木卫二号Coding2024-04-30 21:00

修改ollama配置使其可以监听0.0.0.0和修改端口，可以外网访问

修改文件

复制代码

vim /etc/systemd/system/ollama.service

增加

复制代码

[Service]
Environment="OLLAMA_HOST=0.0.0.0:11434"

重现加载

复制代码

sudo systemctl daemon-reload
sudo systemctl restart ollama

sudo systemctl status ollama

查看日志

复制代码

journalctl -u ollama.service

open-api

这样可以通过外网访问

复制代码

curl http://192.168.31.11:11434/api/chat -d '{
  "model": "qwen:0.5b-chat-v1.5-q4_K_M",
  "messages": [
    { "role": "user", "content": "介绍一下北京景点?" }
  ],
  "stream": false
}'