Ubuntu20.04 Ollama 配置相关

Ubuntu20.04 Ollama 配置相关

Ubuntu20.04 Ollama 配置相关

ollama修改配置文件常用命令

复制代码
sudo gedit /etc/systemd/system/ollama.service 
systemctl daemon-reload
systemctl restart ollama
systemctl status ollama

修改端口

复制代码
[Unit]
Description=Ollama Service
After=network-online.target

[Service]
ExecStart=/usr/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="PATH=$PATH"
Environment="OLLAMA_HOST=0.0.0.0:11451"


[Install]
WantedBy=default.target

修改端口后,访问指令方式

把Ollama的默认端口修改后,如果再运行:
ollama ps

则会报下面的错:
Error: could not connect to ollama app, is it running?

感觉似乎是没有运行一样,运行ollama list也是一样的结果,但是如果查看服务的状态:

sudo systemctl status ollama

可以看到服务是active的。百思不得其解,以为是ollama的bug,结果在这里看到:

https://github.com/ollama/ollama/issues/2928

原来改过端口之后要加端口号才能正常运行命令:

复制代码
OLLAMA_HOST=127.0.0.1:11451 ollama list
OLLAMA_HOST=127.0.0.1:11451 ollama ps
OLLAMA_HOST=127.0.0.1:11451 ollama run qwen2:72b

主要是要加上端口号才能正常运行。修改完.service文件,需要重新启动一下服务:

复制代码
sudo systemctl daemon-reload
sudo systemctl restart ollama

暂时还不清楚127.0.0.1的作用是什么

局域网访问

hostname -I 查看本机IP(Ollama部署端)

局域网电脑访问ip:11451观察是否显示Ollama is running


参考:
ollama如何修改服务端口号

相关推荐
小草cys2 小时前
ubuntu忘记密码怎么重置
安全·ubuntu·密码重置
宋明河4 小时前
windows与ubuntu双系统主机下ubuntu访问windows磁盘是只读
linux·windows·ubuntu
cnnews18 小时前
Chromebox3安装Ubuntu后内存化与最小化 eMMC 写入优化
linux·运维·ubuntu
flytalei18 小时前
Ubuntu 24.04 单节点 K3s 部署实践:从环境评估到故障排查与验收
linux·运维·ubuntu
东风微鸣1 天前
一次断电引发的血案:Ubuntu 26.04 升级中断后的完整救援实录
数据库·ubuntu·postgresql
Victor Zhong1 天前
llama.cpp 部署大模型到 Ubuntu 台式机 SOP
linux·ubuntu·llama
我先去打把游戏先1 天前
Git-Rebase使用指南-从原理到实战
服务器·git·嵌入式硬件·物联网·ubuntu
承渊政道1 天前
Linux网络学习【应用层自定义协议与序列化实战:从手写序列化与反序列化到深入理解进程间关系与守护进程】
linux·网络·学习·ubuntu·json·序列化与反序列化
mobai71 天前
ubuntu安装中文输入法
ubuntu
快乐的韭菜根根2 天前
ubuntu 安装slurm并配置
linux·运维·ubuntu