虚拟机或服务器安装ollama

baidu_huihui2026-01-31 10:10

#1.1上传到虚拟机或服务器

#1.2创建文件夹

bash 复制代码

mkdir /usr/local/ollama/

#1.3上传的压缩文件ollama-1inux-amd64.tar.zs，mv移动过来-->>一定注意路径:在o1lama所在路

bash 复制代码

mv ./ollama-linux-amd64.tar.zst /usr/local/ollama/ollama-linux-amd64.tar.zst

2云服务器部署dily

3本地大模型部署

3.1概念

3.1 win/mac机器[不建议]

3.2 linux上[云服务器，虚拟机)-老师建议

4di/对接大根型

#2.6解压安装解压软件

bash 复制代码

cd /usr/local/ollama/

bash 复制代码

sudo dnf install -y zstd  #zstd：是要安装的软件包名称，即 Zstandard 压缩工具。

bash 复制代码

tar --use-compress-program=unzstd -xvf ollama-linux-amd64.tar.zst

#2.7换到别的目录下，就不能执行o11ama的命令-->>创建软连接:以后任意路径敲o11ama都有反应

bash 复制代码

ln -s /usr/local/ollama/bin/ollama /usr/bin/ollama

#2.8现在可以用了，但是我们希望使用systemctl管理ollama服务

bash 复制代码

#重新加载服务配置
systemctl daemon-reload
#开机自启动
systemctl enable ollama
#立刻启动
systemctl start ollama
#停止
systemctl stop ollama
#重启服务
systemctl restart ollama
#查看状态
systemctl status ollama