Ollama 指南

从安装到运行的 Ollama 快速指南,适合本地学习和日常测试使用

一、Ollama 是什么(一句话)

Ollama 是一个用于在本地运行大语言模型(如 LLaMA、Qwen、Mistral 等)的工具,支持 一行命令拉模型、直接对话运行,非常适合本地实验和开发测试。

二、安装 Ollama

1️⃣ Windows / macOS / Linux

👉 官方下载地址:

https://ollama.com/download

下载安装后,终端执行:

ollama --version

能正常输出版本号,说明安装成功。

三、启动 Ollama 服务

✅ macOS / Linux

安装完成后会自动启动后台服务,无需手动启动。

✅ Windows

安装后同样会自动启动,如需手动启动:

ollama serve

四、运行第一个模型(推荐)

1️⃣ 拉取并运行模型(一次完成)

ollama run llama3

或(中文效果更好):

ollama run qwen2.5

第一次运行会自动下载模型(几 GB),请耐心等待。

五、常用命令速查

查看已下载模型

ollama list

运行指定模型

ollama run mistral

删除模型

ollama rm llama3

查看运行中的模型

ollama ps

六、通过 API 使用 Ollama(进阶)

Ollama 默认在本地启动一个服务:

http://localhost:11434

示例:使用 curl 调用

curl http://localhost:11434/api/generate -d '{

"model": "qwen2.5",

"prompt": "介绍一下 Ollama 的作用"

}'

七、常见问题

❓ 模型下载慢

建议使用稳定网络

可提前下载常用模型,避免频繁拉取

❓ 显存 / 内存不够

选择参数更小的模型(如 7b、8b)

同一时间只运行一个模型

❓ 中文效果不好

推荐模型:

qwen2.5

llama3:8b

deepseek-r1

八、典型学习路径(结合你前面的目标)

建议顺序:

本地成功运行 ollama run qwen2.5

理解模型下载、启动、停止流程

使用 API 调用

再结合 Docker / 容器环境进行测试

相关推荐
Artech3 分钟前
[对比学习LangChain和MAF-02]基本编程模式的差异(下篇)
ai·langchain·agent·maf
AIGC大时代3 分钟前
AI服务先看工作流
科技·ai·科普
AIGC大时代17 分钟前
Skill真只是Prompt吗
科技·ai·科普
尘埃落定wf17 分钟前
五大主流 Agent 架构模式详解
ai·langchain
老王谈企服19 分钟前
AI Agent将如何重构制造业的安全生产隐患识别模式?深度理解与实在Agent闭环实战
人工智能·安全·ai·重构
Terrence Shen23 分钟前
Agent面试八股文(系列之三)
人工智能·大模型·agent·rag·智能体·大模型技术
小云小白27 分钟前
IDEA Java 开发 AI 工具对比与安装指南
ai·idea·claude
土星云SaturnCloud30 分钟前
32TOPS工业级算力+无风扇全密封!土星云SE110S-WA32边缘计算微服务器深度测评
服务器·人工智能·ai·边缘计算
阿星AI工作室2 小时前
Codex+Figma MCP:GPT-image-2出图转前端
ai·编程·figma·codex
Agent产品评测局9 小时前
制造业模具管理AI系统,主流产品能力对比详解:2026年智能制造选型深度洞察
人工智能·ai·chatgpt·制造