Ubuntu20.04 Ollama 配置相关

Ubuntu20.04 Ollama 配置相关

Ubuntu20.04 Ollama 配置相关

ollama修改配置文件常用命令

复制代码
sudo gedit /etc/systemd/system/ollama.service 
systemctl daemon-reload
systemctl restart ollama
systemctl status ollama

修改端口

复制代码
[Unit]
Description=Ollama Service
After=network-online.target

[Service]
ExecStart=/usr/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="PATH=$PATH"
Environment="OLLAMA_HOST=0.0.0.0:11451"


[Install]
WantedBy=default.target

修改端口后,访问指令方式

把Ollama的默认端口修改后,如果再运行:
ollama ps

则会报下面的错:
Error: could not connect to ollama app, is it running?

感觉似乎是没有运行一样,运行ollama list也是一样的结果,但是如果查看服务的状态:

sudo systemctl status ollama

可以看到服务是active的。百思不得其解,以为是ollama的bug,结果在这里看到:

https://github.com/ollama/ollama/issues/2928

原来改过端口之后要加端口号才能正常运行命令:

复制代码
OLLAMA_HOST=127.0.0.1:11451 ollama list
OLLAMA_HOST=127.0.0.1:11451 ollama ps
OLLAMA_HOST=127.0.0.1:11451 ollama run qwen2:72b

主要是要加上端口号才能正常运行。修改完.service文件,需要重新启动一下服务:

复制代码
sudo systemctl daemon-reload
sudo systemctl restart ollama

暂时还不清楚127.0.0.1的作用是什么

局域网访问

hostname -I 查看本机IP(Ollama部署端)

局域网电脑访问ip:11451观察是否显示Ollama is running


参考:
ollama如何修改服务端口号

相关推荐
不仙5207 小时前
VMware Workstation 26.0.0 在 Ubuntu 24.04 (内核 6.17.0) 上的安装与内核模块编译问题
linux·ubuntu·elasticsearch
dapeng-大鹏8 小时前
KVM+LVM 零停机在线扩容 Ubuntu 根分区:从磁盘添加到逻辑卷扩展完整
linux·运维·ubuntu·磁盘空间扩展
小小菜鸟,可笑可笑13 小时前
Ubuntu 系统安装搜狗输入法 & 使用英文标点
ubuntu
Soari14 小时前
性能压榨的暴力美学:深度拆解 llama.cpp,结合 GGUF 量化实测,看普通人如何用 2GB 内存硬核跑赢 7B 大模型
llama
Irene199115 小时前
Windows 11 WSL Ubuntu 环境:实际安装 Hive 踩坑实录
hive·windows·ubuntu
aFakeProgramer15 小时前
在Ubuntu系统格式化SD卡,单分区/双分区
linux·运维·ubuntu
Irene199115 小时前
Windows 11 WSL Ubuntu 环境:实际安装 Hadoop 踩坑实录
linux·hadoop·ubuntu
console.log('npc')15 小时前
Windows 11 → WSL2 → Ubuntu → Docker → Codex → Sub2API
windows·ubuntu·docker
小小ken16 小时前
virtualbox中的ubuntu虚拟机登录到桌面后出现屏幕闪烁现象解决办法
linux·运维·ubuntu
xiaobobo333017 小时前
ubuntu中使用trash工具替代rm防止无法回复
ubuntu·垃圾回收