Linux 安装 Ollama

1、下载地址 Download Ollama on Linux

2、有网络直接执行 curl -fsSL https://ollama.com/install.sh | sh 命令

3、下载慢的解决方法

bash 复制代码
1、curl -fsSL https://ollama.com/install.sh -o ollama_install.sh
2、sed -i 's|https://ollama.com/download/ollama-linux|https://gh.llkk.cc/https://github.com/ollama/ollama/releases/download/v0.5.7/ollama-linux|g' ollama_install.sh
3、chmod +x ollama_install.sh
4、sh ollama_install.sh

4、修改端口和模型路径

bash 复制代码
 vim /etc/systemd/system/ollama.service

这个是增加的变量

"OLLAMA_MODELS=/mnt/ollama/models" "OLLAMA_HOST=0.0.0.0:1001

bash 复制代码
[Unit]
Description=Ollama Service
After=network-online.target

[Service]
ExecStart=/usr/local/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="PATH=/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/dat/java/jdk1.8.0_271/bin:/dat/java/jdk1.8.0_271/jre/bin:/root/bin" "OLLAMA_MODELS=/mnt/ollama/models" "OLLAMA_HOST=0.0.0.0:1001"

[Install]
WantedBy=default.target

文件夹赋权限

bash 复制代码
1、 chomd 775 -R /mnt/ollama/models/
2、 chown ollama.ollama -R /mnt/ollama/models

保存之后执行,重载和重启命令

bash 复制代码
1、sudo systemctl daemon-reload
2、sudo systemctl restart ollama

4、查看状态启动成功

5、运行模型一定要用这个... 指定端口,因为改了端口。客户端找不到默认了,就会提示

could not connect to ollama app, is it running?(坑了好长一会...)

bash 复制代码
OLLAMA_HOST=127.0.0.1:1001 ollama list
 
OLLAMA_HOST=127.0.0.1:44311 ollama ps
 
OLLAMA_HOST=127.0.0.1:44311 ollama run deepseek-r1:7b

6、感谢Ubuntu 24.04上报:Error: could not connect to ollama app, is it running?的解决方法-CSDN博客

Ubuntn下载Ollama慢或卡顿解决方案_ollama下载慢怎么办-CSDN博客

相关推荐
oMcLin12 小时前
CentOS 7.6 磁盘空间不足导致服务崩溃:如何有效清理日志文件和临时文件
linux·运维·centos
秋风不问归客12 小时前
linux 网络相关命令 及常用场景
linux·服务器·网络
牛奶咖啡1312 小时前
Linux文件快照备份工具rsnapshot的实践教程
linux·服务器·文件备份·文件快照备份·rsnapshot·定时备份本地或远程文件·查看指定命令的完整路径
大模型铲屎官12 小时前
【操作系统-Day 47】揭秘Linux文件系统基石:图解索引分配(inode)与多级索引
linux·运维·服务器·人工智能·python·操作系统·计算机组成原理
拾光Ծ13 小时前
Linux 进程控制:进程终止与等待・waitpid 选项参数与状态解析(告别僵尸进程)
linux·运维·服务器·进程控制
linux修理工13 小时前
ubuntu 2204 tsinghua
linux·运维·ubuntu
琥珀.13 小时前
查看linux下java服务进程是否正常
java·linux·运维
oMcLin13 小时前
Ubuntu 22.04 无法安装依赖包:解决 apt‑get 错误“Could not resolve”
linux·运维·ubuntu
QyynerBoomer13 小时前
Linux进程创建详解
linux·运维·服务器
航Hang*13 小时前
第1章:初识Linux系统——第12节:总复习①
linux·笔记·学习·考试复习