ollama安装(ubuntu20.04)

Ollama是一款开源的自然语言处理工具,它可以帮助开发者快速构建文本处理应用。

ollama官网: https://ollama.ai/

一、ollama 自动安装

linux统一采用sh脚本安装,一个命令行搞定。

bash 复制代码
curl -fsSL https://ollama.com/install.sh | sh

二、ollama 手动安装

ollama自动安装是通过github拉取下载包(现在安装包已经1G以上),在国内经常下载失败,这里我教大家如何手动安装。

1.转到ollama的github仓库下载包

迅雷加速下载,这里用的PJ版本的,下载速度可以到3.5MB/s。

2.上传安装包到linux服务器

用mobaxterm或者支持sftp的工具上传到linux服务器,如/root/ollama-linux-amd64.tgz

进入目录

bash 复制代码
cd /root

执行解压命令安装ollama

bash 复制代码
tar -zxf ollama-linux-amd64.tgz -C /usr/local

3.配置

编辑命令行

bash 复制代码
vim /root/.bashrc

配置ollama主机IP地址:

bash 复制代码
export OLLAMA_HOST=http://[服务器的IP地址]:11434

4.随机启动

  • 创建开机脚本
bash 复制代码
 cat <<EOF | $SUDO tee /etc/systemd/system/ollama.service >/dev/null
[Unit]
 Description=Ollama Service
 After=network-online.target

[Service]
ExecStart=/usr/local/bin/ollama serve
User=ollama
Group=ollama
 Restart=always
 RestartSec=3
 Environment="PATH=$PATH"
  • 设置开机启动
bash 复制代码
systemctl enable ollama
  • 配置启动环境变量
bash 复制代码
systemctl set-environment OLLAMA_HOST=http://[服务器的IP地址]:11434
  • 启动服务
bash 复制代码
systemctl start ollama

5.检查是否安装成功

  • 查看版本号
bash 复制代码
ollama -v
  • 查看帮助
bash 复制代码
ollama --help
相关推荐
DigitalOcean15 小时前
Qwen3.8-2.4T-A95B 部署与性能解析:DigitalOcean 无服务器推理实测
llm
XLYcmy15 小时前
小红书 算法一面 四
深度学习·llm·sft·强化学习·多模态·grpo·奖励函数
幻灵尔依20 小时前
LLM 推理核心链路&缓存命中讲解
llm·agent·ai编程
武子康21 小时前
DeepSeek Harness:Cordis 如何让插件可卸载、可依赖、可重组
人工智能·llm·agent
武子康21 小时前
从 Pi 学习设计自己的 Agent Harness:一条可验证的垂直生产线
人工智能·llm·agent
徐且行21 小时前
DeepSeek Harness初体验:入门、安装与自定义插件
深度学习·自然语言处理·llm·agents·deepseek·harness
拾年2751 天前
让 AI 自己卷自己:50 行代码实现「LLM 当评委 + 多选一」的 Harness 工程
langchain·llm
漂流瓶jz1 天前
一文读懂大模型生态:分类/参数/结构/训练/GPU/评测/排行/社区
人工智能·大模型·llm·openai·nvidia·deepseek·anthropic
AINative软件工程1 天前
LLM 请求合并工程实践:用 Single-Flight 把并发重复调用从 N 次砍成 1 次
后端·llm·ai编程
Flynt1 天前
花一下午把Qwen3.8-27B跑在本地,最坑的不是显存
开源·llm·llama