【Ollama】Windows系统使用Ollama部署本地大模型

下载安装Ollama

Ollama 官网下载

https://ollama.com/ 箭头所指按钮任意一个都可以

选择下载方式

使用上方指令,或者点击按钮都可以,此处选择点击按钮

双击运行下载的exe文件

点击 install 等待安装完毕

下载模型

方法一

安装完毕后弹出的对话框里有ollama平台能够下载的所有大模型,从中选择你需要的模型

点击展开侧窗,点击settings,可以修改下载模型本地存储地址。第一次对话没有对应模型就会自动去下载

方法二:使用指令下载

在官网中,点击 Models 进入模型选择界面 https://ollama.com/search,根据想找的模型类型或者自己根据模型名称去搜索想要的模型。其中只有 cloud 标签的模型,只能使用 ollama 云端部署版本。其他模型,点击进入可以选择对应合适的体量去部署,以 qwen3.5 为例

可以通过以下指令下载,Windows上直接在CMD或powshell上执行:

bash 复制代码
# 基本格式
ollama pull 模型名称
# 以qwen3示例,中括号里的规模大小可选,如果不填默认为最新版
ollama pull qwen3[:4b]
# 拉取后直接运行
ollama run 模型名称


相关推荐
镰刀韭菜3 天前
2026 年 10 月 Mac 本地大模型:24GB / 64GB / 128GB 怎么选
mac·qwen·apple silicon·ollama·本地llm
Jasonakeke3 天前
Ollama 装好却拉不动模型?八成是这两种病,一种缺网一种缺显存
ai编程·ollama
goehou6 天前
两台 Mac 拼成推理池,加机器不加内存
mac·集群·ollama·本地推理
武雄(小星Ai)11 天前
Ollama报llama-server binary not found排坑实录:服务活着引擎没了
人工智能·windows·大模型·ollama·排坑
goehou11 天前
Ollama 的流式接口不是 SSE,客户端要改三处
sse·ollama·流式输出·客户端开发
n1121218 天前
Ollama 接 Open WebUI 中文界面:我踩的 4 个坑
云原生·eureka·ollama·本地大模型·open webui·私有部署·中文界面
一枕槐安48719 天前
开源大模型 Llama3 本地部署全过程,Ollama 上手
开源·本地部署·大模型推理·ollama·llama3·modelfile
死磕音视频21 天前
Open WebUI 入门:用 Docker 装上本地对话界面并连接 Ollama
docker·ollama·本地大模型·open webui
xzlAwin23 天前
Win10 安装 Ollama 本地AI
ai·ollama
还卿一钵无情泪25 天前
PEFT-Transformers、Unsloth、LLaMA-Factory 微调框架 横向对比
深度学习·大模型·llama·ollama