修改ollama配置使其可以监听0.0.0.0和修改端口,可以外网访问
修改文件
vim /etc/systemd/system/ollama.service
增加
[Service]
Environment="OLLAMA_HOST=0.0.0.0:11434"
重现加载
sudo systemctl daemon-reload
sudo systemctl restart ollama
sudo systemctl status ollama
查看日志
journalctl -u ollama.service
open-api
这样可以通过外网访问
curl http://192.168.31.11:11434/api/chat -d '{
"model": "qwen:0.5b-chat-v1.5-q4_K_M",
"messages": [
{ "role": "user", "content": "介绍一下北京景点?" }
],
"stream": false
}'