Ubuntu20.04 Ollama 配置相关

Ubuntu20.04 Ollama 配置相关

Ubuntu20.04 Ollama 配置相关

ollama修改配置文件常用命令

复制代码
sudo gedit /etc/systemd/system/ollama.service 
systemctl daemon-reload
systemctl restart ollama
systemctl status ollama

修改端口

复制代码
[Unit]
Description=Ollama Service
After=network-online.target

[Service]
ExecStart=/usr/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="PATH=$PATH"
Environment="OLLAMA_HOST=0.0.0.0:11451"


[Install]
WantedBy=default.target

修改端口后,访问指令方式

把Ollama的默认端口修改后,如果再运行:
ollama ps

则会报下面的错:
Error: could not connect to ollama app, is it running?

感觉似乎是没有运行一样,运行ollama list也是一样的结果,但是如果查看服务的状态:

sudo systemctl status ollama

可以看到服务是active的。百思不得其解,以为是ollama的bug,结果在这里看到:

https://github.com/ollama/ollama/issues/2928

原来改过端口之后要加端口号才能正常运行命令:

复制代码
OLLAMA_HOST=127.0.0.1:11451 ollama list
OLLAMA_HOST=127.0.0.1:11451 ollama ps
OLLAMA_HOST=127.0.0.1:11451 ollama run qwen2:72b

主要是要加上端口号才能正常运行。修改完.service文件,需要重新启动一下服务:

复制代码
sudo systemctl daemon-reload
sudo systemctl restart ollama

暂时还不清楚127.0.0.1的作用是什么

局域网访问

hostname -I 查看本机IP(Ollama部署端)

局域网电脑访问ip:11451观察是否显示Ollama is running


参考:
ollama如何修改服务端口号

相关推荐
q***51893 小时前
ubuntu 安装 Redis
linux·redis·ubuntu
稻谷君W5 小时前
Ubuntu 远程访问 Win11 WSL2 并固定访问教程
linux·运维·ubuntu
虚伪的空想家6 小时前
华为昇腾Atlas 800 A2物理服务器开启VT-d模式
运维·服务器·ubuntu·kvm·vt-d·直通
q***18848 小时前
Ubuntu上安装、使用Redis的详细教程
redis·ubuntu·bootstrap
人工智能训练8 小时前
windows系统中的docker,xinference直接运行在容器目录和持载在宿主机目录中的区别
linux·服务器·人工智能·windows·ubuntu·docker·容器
代码对我眨眼睛9 小时前
Ubuntu 系统 NVIDIA 显卡驱动自动化安装全流程
linux·ubuntu·自动化
xuyanqiangCode9 小时前
Ubuntu二进制安装Apache Doris(2.1版本)
linux·ubuntu·apache
Warren9820 小时前
Python自动化测试全栈面试
服务器·网络·数据库·mysql·ubuntu·面试·职场和发展
HIT_Weston20 小时前
39、【Ubuntu】【远程开发】拉出内网 Web 服务:构建静态网页(二)
linux·前端·ubuntu
大牙Adela1 天前
在Mac上通过Multipass虚拟机中的Ubuntu系统使用Graphviz工具
c语言·qt·ubuntu·macos·multipass·graphviz