Ubuntu 系统安装 Ollama 教程

- [一、Ollama 简介](#一、Ollama 简介)
- 二、环境要求
- 三、安装步骤
- - [3.1 系统更新（可选但推荐）](#3.1 系统更新（可选但推荐）)
  - [3.2 一键安装 Ollama](#3.2 一键安装 Ollama)
  - - 安装过程说明：
  - [3.3 验证安装是否成功](#3.3 验证安装是否成功)
  - - [3.3.1 检查 Ollama 版本](#3.3.1 检查 Ollama 版本)
    - [3.3.2 检查服务状态](#3.3.2 检查服务状态)
- 四、基础使用示例
- - [4.1 运行第一个大模型（以 Llama 3 7B 为例）](#4.1 运行第一个大模型（以 Llama 3 7B 为例）)
  - [4.2 常用 Ollama 命令](#4.2 常用 Ollama 命令)
- 五、常见问题解决
- - [5.1 安装时 curl 命令未找到](#5.1 安装时 curl 命令未找到)
  - [5.2 网络无法访问 Ollama 服务器](#5.2 网络无法访问 Ollama 服务器)
  - [5.3 GPU 加速配置（可选）](#5.3 GPU 加速配置（可选）)
  - [5.4 权限不足问题](#5.4 权限不足问题)
- [六、卸载 Ollama（可选）](#六、卸载 Ollama（可选）)
- - 总结

一、Ollama 简介

Ollama 是一款轻量级、易用的本地大模型运行工具，支持一键部署 Llama 3、Phi 3、Gemini、Mistral 等主流开源大模型，无需复杂的环境配置，非常适合开发者和AI爱好者在本地运行大模型。

二、环境要求

操作系统：Ubuntu 18.04/20.04/22.04/24.04（推荐 22.04 LTS）
网络：能够访问外网（若无法直连，需配置代理）
权限：拥有 sudo 权限的用户
硬件：至少 4GB 内存（运行 7B 模型建议 8GB 以上，GPU 加速需支持 CUDA）

三、安装步骤

3.1 系统更新（可选但推荐）

首先更新系统包列表，确保依赖库为最新版本：

bash 复制代码

sudo apt update && sudo apt upgrade -y

3.2 一键安装 Ollama

Ollama 提供了官方一键安装脚本，执行以下命令即可自动下载并安装：

bash 复制代码

curl -fsSL https://ollama.com/install.sh | sh

安装过程说明：

脚本会自动检测系统架构（x86_64/arm64），下载对应版本的 Ollama 二进制文件
自动配置系统服务（systemd），并启动 Ollama 服务
安装完成后，Ollama 会默认以系统服务形式后台运行

3.3 验证安装是否成功

3.3.1 检查 Ollama 版本

bash 复制代码

ollama --version

若输出类似 ollama version 0.1.48 的版本信息，说明安装成功。

3.3.2 检查服务状态

bash 复制代码

sudo systemctl status ollama

正常状态应为 active (running)，若显示 inactive，执行以下命令启动服务：

bash 复制代码

sudo systemctl start ollama
# 设置开机自启（可选）
sudo systemctl enable ollama

四、基础使用示例

4.1 运行第一个大模型（以 Llama 3 7B 为例）

执行以下命令，Ollama 会自动下载并运行 Meta Llama 3 7B 模型：

bash 复制代码

ollama run llama3

首次运行会下载模型文件（约 4.5GB），下载速度取决于网络
下载完成后自动进入交互模式，可直接输入问题对话（例如：介绍一下自己）
退出交互模式：输入 /bye 或按 Ctrl + D

4.2 常用 Ollama 命令

bash 复制代码

# 查看已下载的模型
ollama list

# 停止运行中的模型
ollama stop <模型名>  # 例如：ollama stop llama3

# 删除模型
ollama rm <模型名>

# 查看 Ollama 帮助
ollama help

五、常见问题解决

5.1 安装时 curl 命令未找到

bash 复制代码

sudo apt install curl -y

5.2 网络无法访问 Ollama 服务器

若无法直连外网，需配置代理后再执行安装脚本：

bash 复制代码

# 临时配置代理（替换为你的代理地址）
export http_proxy=http://127.0.0.1:7890
export https_proxy=http://127.0.0.1:7890
# 再执行安装命令
curl -fsSL https://ollama.com/install.sh | sh

5.3 GPU 加速配置（可选）

若有 NVIDIA 显卡，需安装 CUDA 驱动以启用 GPU 加速：

bash 复制代码

# 安装 NVIDIA 驱动（Ubuntu 22.04 示例）
sudo apt install nvidia-driver-535 -y
# 重启系统后验证
nvidia-smi
# 重新启动 Ollama 服务
sudo systemctl restart ollama

5.4 权限不足问题

执行 Ollama 命令时若提示权限错误，添加当前用户到 ollama 组：

bash 复制代码

sudo usermod -aG ollama $USER
# 注销并重新登录生效

六、卸载 Ollama（可选）

若需卸载，执行以下命令：

bash 复制代码

# 停止服务
sudo systemctl stop ollama
sudo systemctl disable ollama
# 删除二进制文件和配置
sudo rm /usr/local/bin/ollama
sudo rm -rf /etc/ollama
sudo rm -rf /var/lib/ollama
# 删除系统服务
sudo rm /etc/systemd/system/ollama.service
sudo systemctl daemon-reload

总结

Ubuntu 安装 Ollama 核心命令为 curl -fsSL https://ollama.com/install.sh | sh，安装前建议更新系统并确保网络通畅；
验证安装成功的关键是 ollama --version 和 systemctl status ollama 命令返回正常；
基础使用可通过 ollama run <模型名> 启动大模型，常见问题可优先检查网络、权限和服务状态。

End

你好，少年，未来可期~