Ubuntu20.04 Ollama 配置相关

Ubuntu20.04 Ollama 配置相关

Ubuntu20.04 Ollama 配置相关

ollama修改配置文件常用命令

复制代码
sudo gedit /etc/systemd/system/ollama.service 
systemctl daemon-reload
systemctl restart ollama
systemctl status ollama

修改端口

复制代码
[Unit]
Description=Ollama Service
After=network-online.target

[Service]
ExecStart=/usr/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="PATH=$PATH"
Environment="OLLAMA_HOST=0.0.0.0:11451"


[Install]
WantedBy=default.target

修改端口后,访问指令方式

把Ollama的默认端口修改后,如果再运行:
ollama ps

则会报下面的错:
Error: could not connect to ollama app, is it running?

感觉似乎是没有运行一样,运行ollama list也是一样的结果,但是如果查看服务的状态:

sudo systemctl status ollama

可以看到服务是active的。百思不得其解,以为是ollama的bug,结果在这里看到:

https://github.com/ollama/ollama/issues/2928

原来改过端口之后要加端口号才能正常运行命令:

复制代码
OLLAMA_HOST=127.0.0.1:11451 ollama list
OLLAMA_HOST=127.0.0.1:11451 ollama ps
OLLAMA_HOST=127.0.0.1:11451 ollama run qwen2:72b

主要是要加上端口号才能正常运行。修改完.service文件,需要重新启动一下服务:

复制代码
sudo systemctl daemon-reload
sudo systemctl restart ollama

暂时还不清楚127.0.0.1的作用是什么

局域网访问

hostname -I 查看本机IP(Ollama部署端)

局域网电脑访问ip:11451观察是否显示Ollama is running


参考:
ollama如何修改服务端口号

相关推荐
Sheep Shaun2 小时前
揭开Linux的隐藏约定:你的第一个文件描述符为什么是3?
linux·服务器·ubuntu·文件系统·缓冲区
生活很暖很治愈2 小时前
Linux——环境变量PATH
linux·ubuntu
予枫的编程笔记3 小时前
【Linux入门篇】Ubuntu和CentOS包管理不一样?apt与yum对比实操,看完再也不混淆
linux·人工智能·ubuntu·centos·linux包管理·linux新手教程·rpm离线安装
匆匆那年9676 小时前
llamafactory推理消除模型的随机性
linux·服务器·学习·ubuntu
wypywyp15 小时前
8. ubuntu 虚拟机 linux 服务器 TCP/IP 概念辨析
linux·服务器·ubuntu
阿蒙Amon15 小时前
TypeScript学习-第10章:模块与命名空间
学习·ubuntu·typescript
No8g攻城狮16 小时前
【Linux】Windows11 安装 WSL2 并运行 Ubuntu 22.04 详细操作步骤
linux·运维·ubuntu
森G19 小时前
七、04ledc-sdk--------makefile有变化
linux·c语言·arm开发·c++·ubuntu
生活很暖很治愈21 小时前
Linux——孤儿进程&进程调度&大O(1)调度
linux·服务器·ubuntu
getapi1 天前
注塑件的费用构成
linux·服务器·ubuntu