Linux 安装 Ollama

1、下载地址 Download Ollama on Linux

2、有网络直接执行 curl -fsSL https://ollama.com/install.sh | sh 命令

3、下载慢的解决方法

bash 复制代码
1、curl -fsSL https://ollama.com/install.sh -o ollama_install.sh
2、sed -i 's|https://ollama.com/download/ollama-linux|https://gh.llkk.cc/https://github.com/ollama/ollama/releases/download/v0.5.7/ollama-linux|g' ollama_install.sh
3、chmod +x ollama_install.sh
4、sh ollama_install.sh

4、修改端口和模型路径

bash 复制代码
 vim /etc/systemd/system/ollama.service

这个是增加的变量

"OLLAMA_MODELS=/mnt/ollama/models" "OLLAMA_HOST=0.0.0.0:1001

bash 复制代码
[Unit]
Description=Ollama Service
After=network-online.target

[Service]
ExecStart=/usr/local/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="PATH=/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/dat/java/jdk1.8.0_271/bin:/dat/java/jdk1.8.0_271/jre/bin:/root/bin" "OLLAMA_MODELS=/mnt/ollama/models" "OLLAMA_HOST=0.0.0.0:1001"

[Install]
WantedBy=default.target

文件夹赋权限

bash 复制代码
1、 chomd 775 -R /mnt/ollama/models/
2、 chown ollama.ollama -R /mnt/ollama/models

保存之后执行,重载和重启命令

bash 复制代码
1、sudo systemctl daemon-reload
2、sudo systemctl restart ollama

4、查看状态启动成功

5、运行模型一定要用这个... 指定端口,因为改了端口。客户端找不到默认了,就会提示

could not connect to ollama app, is it running?(坑了好长一会...)

bash 复制代码
OLLAMA_HOST=127.0.0.1:1001 ollama list
 
OLLAMA_HOST=127.0.0.1:44311 ollama ps
 
OLLAMA_HOST=127.0.0.1:44311 ollama run deepseek-r1:7b

6、感谢Ubuntu 24.04上报:Error: could not connect to ollama app, is it running?的解决方法-CSDN博客

Ubuntn下载Ollama慢或卡顿解决方案_ollama下载慢怎么办-CSDN博客

相关推荐
晓13131 分钟前
第七章 【C语言篇:文件】 文件全面解析
linux·c语言·开发语言
唐装鼠10 分钟前
Linux 下 malloc 内存分配机制详解
linux·malloc
予枫的编程笔记10 分钟前
【Linux入门篇】Linux运维必学:Vim核心操作详解,告别编辑器依赖
linux·人工智能·linux运维·vim操作教程·程序员工具·编辑器技巧·新手学vim
17(无规则自律)23 分钟前
深入浅出 Linux 内核模块,写一个内核版的 Hello World
linux·arm开发·嵌入式硬件
hay_lee33 分钟前
Spring AI实现对话聊天-流式输出
java·人工智能·ollama·spring ai
中二病码农不会遇见C++学姐38 分钟前
Linux下的.run文件
linux
予枫的编程笔记40 分钟前
【Linux入门篇】摆脱权限混乱困境:Linux用户组管理+sudo提权,一步到位
linux·linux运维·后端开发·linux用户管理·linux权限配置·chmod命令·sudo配置
一个人旅程~1 小时前
Dell n4020双系统分区步骤和linux优化操作
linux·windows·电脑
忆~遂愿1 小时前
CANN metadef 深度解析:动态形状元数据管理、图编译器接口规范与序列化执行机制
大数据·linux
予枫的编程笔记1 小时前
【Linux入门篇】Linux文件操作不用记满屏命令,掌握touch/cp/mv核心用法就够了
linux·tar·linux命令·tail·cat·linux文件管理·linux新手教程