Ubuntu20.04 Ollama 配置相关

Ubuntu20.04 Ollama 配置相关

Ubuntu20.04 Ollama 配置相关

ollama修改配置文件常用命令

复制代码
sudo gedit /etc/systemd/system/ollama.service 
systemctl daemon-reload
systemctl restart ollama
systemctl status ollama

修改端口

复制代码
[Unit]
Description=Ollama Service
After=network-online.target

[Service]
ExecStart=/usr/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="PATH=$PATH"
Environment="OLLAMA_HOST=0.0.0.0:11451"


[Install]
WantedBy=default.target

修改端口后,访问指令方式

把Ollama的默认端口修改后,如果再运行:
ollama ps

则会报下面的错:
Error: could not connect to ollama app, is it running?

感觉似乎是没有运行一样,运行ollama list也是一样的结果,但是如果查看服务的状态:

sudo systemctl status ollama

可以看到服务是active的。百思不得其解,以为是ollama的bug,结果在这里看到:

https://github.com/ollama/ollama/issues/2928

原来改过端口之后要加端口号才能正常运行命令:

复制代码
OLLAMA_HOST=127.0.0.1:11451 ollama list
OLLAMA_HOST=127.0.0.1:11451 ollama ps
OLLAMA_HOST=127.0.0.1:11451 ollama run qwen2:72b

主要是要加上端口号才能正常运行。修改完.service文件,需要重新启动一下服务:

复制代码
sudo systemctl daemon-reload
sudo systemctl restart ollama

暂时还不清楚127.0.0.1的作用是什么

局域网访问

hostname -I 查看本机IP(Ollama部署端)

局域网电脑访问ip:11451观察是否显示Ollama is running


参考:
ollama如何修改服务端口号

相关推荐
zhangrelay3 天前
《机器人控制器设计与编程》课程习题资料-2026
linux·笔记·学习·ubuntu
Linux-lucky3 天前
39-41-Linux学习之旅之redis缓存基础与NFS基础
linux·运维·mysql·ubuntu
QQ14220784493 天前
2012 年的老 ThinkPad E430 改装 Ubuntu 24.04全程翻车排查实录
ubuntu·项目复盘
阿钱真强道3 天前
06 嵌入式操作系统 | vim 与软件管理:apt / 源码编译
ubuntu·vim·嵌入式·apt·源码编译
牢姐与蒯3 天前
Linux进程间通信(三).基于匿名管道的进程池的实现
linux·运维·服务器·ubuntu
Linux-lucky4 天前
32-38-Linux学习之旅之MySQL综合
linux·运维·学习·mysql·ubuntu
GPU实战笔记4 天前
本地跑不动 llama.cpp,临时租云 GPU 怎么搭?从启动服务到环境复用
java·服务器·网络·人工智能·深度学习·llama
士訫4 天前
【Linux 踩坑】HP Victus RTX4050 Ubuntu 系统双屏无法同时点亮解决方案(完美适配 Advanced Optimus 机型)
ubuntu
指尖的爷4 天前
ARM 架构 Ubuntu(RK3588/aarch64)go开发环境安装手册
ubuntu·架构·golang
虚无的纽扣4 天前
【Linux】将进程知识与基础IO融会贯通——简单自定义Shell的实现
linux·ubuntu