Linux 安装 Ollama

1、下载地址 Download Ollama on Linux

2、有网络直接执行 curl -fsSL https://ollama.com/install.sh | sh 命令

3、下载慢的解决方法

bash 复制代码
1、curl -fsSL https://ollama.com/install.sh -o ollama_install.sh
2、sed -i 's|https://ollama.com/download/ollama-linux|https://gh.llkk.cc/https://github.com/ollama/ollama/releases/download/v0.5.7/ollama-linux|g' ollama_install.sh
3、chmod +x ollama_install.sh
4、sh ollama_install.sh

4、修改端口和模型路径

bash 复制代码
 vim /etc/systemd/system/ollama.service

这个是增加的变量

"OLLAMA_MODELS=/mnt/ollama/models" "OLLAMA_HOST=0.0.0.0:1001

bash 复制代码
[Unit]
Description=Ollama Service
After=network-online.target

[Service]
ExecStart=/usr/local/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="PATH=/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/dat/java/jdk1.8.0_271/bin:/dat/java/jdk1.8.0_271/jre/bin:/root/bin" "OLLAMA_MODELS=/mnt/ollama/models" "OLLAMA_HOST=0.0.0.0:1001"

[Install]
WantedBy=default.target

文件夹赋权限

bash 复制代码
1、 chomd 775 -R /mnt/ollama/models/
2、 chown ollama.ollama -R /mnt/ollama/models

保存之后执行,重载和重启命令

bash 复制代码
1、sudo systemctl daemon-reload
2、sudo systemctl restart ollama

4、查看状态启动成功

5、运行模型一定要用这个... 指定端口,因为改了端口。客户端找不到默认了,就会提示

could not connect to ollama app, is it running?(坑了好长一会...)

bash 复制代码
OLLAMA_HOST=127.0.0.1:1001 ollama list
 
OLLAMA_HOST=127.0.0.1:44311 ollama ps
 
OLLAMA_HOST=127.0.0.1:44311 ollama run deepseek-r1:7b

6、感谢Ubuntu 24.04上报:Error: could not connect to ollama app, is it running?的解决方法-CSDN博客

Ubuntn下载Ollama慢或卡顿解决方案_ollama下载慢怎么办-CSDN博客

相关推荐
deeper_wind2 小时前
k8s-容器化部署论坛和商城服务(小白的“升级打怪”成长之路)
linux·运维·容器·kubernetes
勇往直前plus2 小时前
VMware centos磁盘容量扩容教程
linux·运维·centos
政安晨4 小时前
Ubuntu 服务器无法 ping 通网站域名的问题解决备忘 ——通常与网络配置有关(DNS解析)
linux·运维·服务器·ubuntu·ping·esp32编译服务器·dns域名解析
路溪非溪5 小时前
嵌入式Linux驱动开发杂项总结
linux·运维·驱动开发
Neolock6 小时前
Linux应急响应一般思路(三)
linux·web安全·应急响应
被遗忘的旋律.7 小时前
Linux驱动开发笔记(七)——并发与竞争(上)——原子操作
linux·驱动开发·笔记
轻松Ai享生活7 小时前
minidump vs core dump
linux
轻松Ai享生活8 小时前
详细的 Linux 常用文件系统介绍
linux
张童瑶8 小时前
Linux 离线安装lrzsz(rz、sz上传下载小插件)
linux·运维·centos
十五年专注C++开发9 小时前
通信中间件 Fast DDS(二) :详细介绍
linux·c++·windows·中间件·fastdds