Debian 安装 Ollama 教程

Debian 安装 Ollama 教程,包含加速、常见问题和验证步骤。


🧠 一、什么是 Ollama

What is Ollama

  • 🇨🇳:Ollama 是一个本地运行大模型(LLM)的工具(类似本地 ChatGPT)

  • 🇺🇸: Ollama is a tool for running large language models locally (like a local ChatGPT)


⚙️ 二、Debian 安装 Ollama(标准方法)

✅ 方法 1:官方脚本(可能会很慢)

Method 1: Official install script (Recommended)

复制代码
curl -fsSL https://ollama.com/install.sh | sh

👉 如果你之前说下载慢,用国内/加速方法👇


🚀 方法 2:加速安装(推荐用这个)

Method 2: Faster install (for slow networks)

复制代码
curl -fsSL https://ollama.com/install.sh -o install.sh
sudo sed -i 's/ollama.com/mirrors.aliyun.com\/ollama/g' install.sh
sudo sh install.sh

或者直接用代理:

复制代码
export https_proxy=http://127.0.0.1:7890
curl -fsSL https://ollama.com/install.sh | sh

⚠️ 方法 3:手动安装(最稳定)

Method 3: Manual install (Most stable)

复制代码
# 下载二进制
wget https://ollama.com/download/ollama-linux-amd64 -O ollama

# 添加执行权限
chmod +x ollama

# 移动到系统目录
sudo mv ollama /usr/local/bin/

# 创建服务
sudo useradd -r -s /bin/false ollama

# 启动
ollama serve

⚠️ 方法 4:官网下载 https://docs.ollama.com/linux#arm64-install

复制代码
https://ollama.com/download/ollama-linux-arm64.tar.zst

▶️ 三、启动 Ollama

Start Ollama

复制代码
ollama serve

后台运行:

复制代码
nohup ollama serve &

🤖 四、下载并运行模型

Run your first model

复制代码
ollama run llama3

测试模型:

复制代码
ollama run llama3 "Explain why I should use a database lock in one sentence"

输出:

复制代码
pulling manifest 
pulling 6a0746a1ec1a: 100% ▕███████████████████████████████████████████████████████████████████████████████████████████████▏ 4.7 GB                         
...                        
verifying sha256 digest 
writing manifest 
success 
You should use a database lock to prevent simultaneous writes or updates from interfering with each other, ensuring data consistency and integrity by 
serializing access to shared data.

👉 常用模型:

  • llama3

  • mistral

  • deepseek-coder


🔍 五、验证是否安装成功

Verify installation

复制代码
ollama --version

测试:

复制代码
ollama run llama3

如果出现聊天界面 → 成功 ✅


🧩 六、常见问题

Common Issues

❌ 1. 下载慢 / 卡住

✔ 解决:

  • 使用代理

  • 或手动下载模型

    ollama pull llama3


❌ 2. 端口占用

默认端口:

复制代码
11434

检查:

复制代码
lsof -i:11434

❌ 3. 没有 GPU(你之前问过)

✔ 正常!

  • Ollama 可以用 CPU

  • 但会慢很多(尤其大模型)


⚡ 七、性能说明(重点)

Performance note

你之前问过这个问题👇:

👉 为什么 AI 不适合 CPU?

  • GPU(VRAM)带宽远高于 RAM

  • 并行计算能力强

  • 推理速度差距可达 10x~50x


🔗 八、下一步(推荐)

如果你要配合你之前问的:

👉 OpenClaw + Ollama

我可以帮你做:

  • ✅ 远程 Ollama API

  • ✅ OpenClaw 连接配置

  • ✅ 局域网/公网访问


✅ 总结

Summary

步骤 内容
安装 curl 或手动
启动 ollama serve
运行模型 ollama run llama3
验证 ollama --version

相关推荐
Flynt4 天前
本地跑大模型到底选哪个?我用llmfit把32000星的项目实测了一遍
ai编程·gpu·ollama
uncle_ll6 天前
Llama 3 私有化落地全栈实战:从 Ollama 极速部署到 LLaMA Factory LoRA 定制微调
llm·nlp·llama·ollama·大模型微调
头茬韭菜6 天前
功能点 1:项目骨架与启动流程 —— 源码阅读笔记
运维·笔记·debian·fluss
抓不住时间的沙6 天前
N1搭建Hexo个人博客,部署到Github
python·docker·node.js·debian·github·arm
qetfw7 天前
Debian 部署 Discuz! 论坛:Nginx、PHP 与 MariaDB 配置
linux·运维·nginx·debian·php·discuz
岛雨QA8 天前
Claude Code接入本地大模型指南
ai编程·claude·ollama
qetfw10 天前
Debian OpenSSL CA 证书配置参考:根证书、服务证书与验证
linux·debian·ssl·openssl
csdn_aspnet11 天前
Copilot能换成本地吗?VSCode接本地大模型本地化接入方案
ide·vscode·ai·ollama
qetfw13 天前
Debian OpenSSL 搭建 CA 证书服务:签发、吊销与客户端信任
linux·debian·openssl·ca