Ollama 指南

从安装到运行的 Ollama 快速指南,适合本地学习和日常测试使用

一、Ollama 是什么(一句话)

Ollama 是一个用于在本地运行大语言模型(如 LLaMA、Qwen、Mistral 等)的工具,支持 一行命令拉模型、直接对话运行,非常适合本地实验和开发测试。

二、安装 Ollama

1️⃣ Windows / macOS / Linux

👉 官方下载地址:

https://ollama.com/download

下载安装后,终端执行:

ollama --version

能正常输出版本号,说明安装成功。

三、启动 Ollama 服务

✅ macOS / Linux

安装完成后会自动启动后台服务,无需手动启动。

✅ Windows

安装后同样会自动启动,如需手动启动:

ollama serve

四、运行第一个模型(推荐)

1️⃣ 拉取并运行模型(一次完成)

ollama run llama3

或(中文效果更好):

ollama run qwen2.5

第一次运行会自动下载模型(几 GB),请耐心等待。

五、常用命令速查

查看已下载模型

ollama list

运行指定模型

ollama run mistral

删除模型

ollama rm llama3

查看运行中的模型

ollama ps

六、通过 API 使用 Ollama(进阶)

Ollama 默认在本地启动一个服务:

http://localhost:11434

示例:使用 curl 调用

curl http://localhost:11434/api/generate -d '{

"model": "qwen2.5",

"prompt": "介绍一下 Ollama 的作用"

}'

七、常见问题

❓ 模型下载慢

建议使用稳定网络

可提前下载常用模型,避免频繁拉取

❓ 显存 / 内存不够

选择参数更小的模型(如 7b、8b)

同一时间只运行一个模型

❓ 中文效果不好

推荐模型:

qwen2.5

llama3:8b

deepseek-r1

八、典型学习路径(结合你前面的目标)

建议顺序:

本地成功运行 ollama run qwen2.5

理解模型下载、启动、停止流程

使用 API 调用

再结合 Docker / 容器环境进行测试

相关推荐
TsingtaoAI18 分钟前
3D高斯泼溅技术发展及其在具身智能领域的应用综述
人工智能·算法·ai·具身智能·高斯泼溅
汤姆yu2 小时前
CodeGeeX 4完整安装与实操使用全指南
人工智能·windows·ai·智能体·视频模型
人间凡尔赛2 小时前
2026 AI Agent 多智能体协同编程实战指南:从 Kimi K3 到 GPT-5.6 深度解析
ai·agent·多智能体·编程实战·waic·gpt-5.6·kimik3
ApacheSeaTunnel3 小时前
Apache SeaTunnel AI CLI Benchmark:7 款大模型、100 个 ETL 任务实测,谁真正能跑起来?
大数据·ai·开源·大模型·数据集成·cli·seatunnel·技术分享·数据同步
大卫小东(Sheldon)3 小时前
小鹤音形词典:一个用 Rust 写的离线编码查询桌面工具
ai·rust
前端Baymax4 小时前
Memory Search索引模型不匹配故障
ai·agent·infra
TechEdu2026064 小时前
[人工智能]生成式AI开源生态:库、工具与工作流
人工智能·ai
寒水馨4 小时前
macOS下载、安装openclaw-v2026.7.1(附安装包OpenClaw-2026.7.1.dmg)
macos·大模型·github·开源软件·ai助手·openclaw·gpt-5.6
TsingtaoAI4 小时前
脑控机器人项目交付|用意念指挥机器人,情绪交互与抓取功能全面实现
人工智能·ai·机器人·具身智能
2601_957418805 小时前
AI美颜本地跑支持手机、电脑、苹果系统
人工智能·ai