环境:Windows11,RTX4060,**优先原生Windows部署
硬件提醒:
- 7B模型Q4:显存≥8GB;14B‑Q4:≥12GB;32B‑Q4:≥20GB显存
- 全部放在SSD,不要机械盘;模型目录不要放C盘,避免C盘爆盘
- OpenClaw是自主智能代理,会读写本地文件、执行命令,新手务必开启操作确认,不要全开权限
整体流程顺序(不能颠倒!)
- 安装NVIDIA显卡驱动(必须最先做)
- 安装Ollama、修改模型存储路径、拉取agent适配模型、验证Ollama API
- 安装OpenClaw
- 修改OpenClaw配置对接Ollama本地API
- 启动gateway,网页访问测试
- 重点坑位清单 + 报错一键排查
第一步:更新NVIDIA显卡驱动
- 去NVIDIA官网下载最新Game Ready驱动,不要用Windows自动更新驱动
❗坑:驱动版本过低,Ollama识别不到GPU,全程CPU跑,速度极慢,以为部署失败。
第二步:安装配置 Ollama
- 官网下载 OllamaSetup.exe:https://ollama.com/download/windows
- 先设置环境变量,再安装!(避免模型全部塞C盘)
-
Win搜索「编辑账户环境变量」
-
新建用户变量:
变量名:OLLAMA_MODELS
变量值:D:\AI\Ollama\Models
D盘提前建好文件夹
D:\AI\Ollama\Models,不要中文路径、不要空格。
- 执行安装包,双击OllamaSetup.exe直接下一步;
自定义程序安装目录命令(可选):
cmd
OllamaSetup.exe /DIR="D:\AI\Ollama"
- 安装完成后,右下角托盘出现Ollama图标,代表后台服务已启动。
验证Ollama是否正常
打开 PowerShell(普通用户,不要管理员)
powershell
ollama --version
ollama list
拉取适合OpenClaw Agent的模型(必须支持function‑call工具调用)
推荐:qwen2.5‑coder:14b‑q4_K_M(中文agent表现最好);显存8G用7b‑q4_K_M
powershell
ollama pull qwen2.5-coder:14b-q4_K_M
❗坑:不要随便拉普通闲聊模型,很多模型不支持工具调用,OpenClaw会疯狂报错、无法执行任务。
本地测试模型是否可运行
powershell
ollama run qwen2.5-coder:14b-q4_K_M "你好"
能正常回复就Ctrl+C退出。
测试Ollama API端口(极其关键!OpenClaw走这个接口)
新开PowerShell执行:
powershell
curl http://127.0.0.1:11434/api/tags
✅ 正常返回json列表;
❌ 报错拒绝连接:右下角托盘退出Ollama,重新打开Ollama启动后台服务。
⚠️重点坑:不要写localhost,后面OpenClaw配置统一写127.0.0.1,Windows下部分node环境localhost解析异常导致连接失败。
第三步:安装 OpenClaw(Windows原生)
验证安装:
powershell
openclaw --version
输出版本号代表成功。
OpenClaw配置文件路径:
C:\Users\你的用户名\.openclaw\openclaw.json⚠️不要手动用记事本直接改json,容易编码错误,推荐vscode编辑。
初始化向导(onboard)
管理员PowerShell执行
powershell
openclaw onboard
第四步:启动OpenClaw Gateway服务
PowerShell(管理员)
powershell
openclaw gateway start
看到输出:Gateway started successfully on http://127.0.0.1:18789
浏览器打开:
http://127.0.0.1:18789
首次访问会给授权token,复制终端输出的token填入网页。
测试模型连通
网页发送简单指令:输出3行python代码。
第一次请求会加载模型,等待几十秒,不要刷新页面。
日常启停命令速查
powershell
# 停止网关
openclaw gateway stop
# 启动网关
openclaw gateway start
# 查看网关状态
openclaw gateway status
# 校验配置文件语法
openclaw config validate
每次修改openclaw.json之后,必须执行
openclaw gateway stop再start。
怎么安装AI本地大模型?
Ollama模型存P盘完整步骤(程序已在P:\AI\Ollama)
⚠️重点:程序安装位置 ≠ 模型存放位置 ,模型默认会跑到C盘,必须设置
OLLAMA_MODELS环境变量,所有模型就全部下载到P盘,完全不碰C盘。
第1步:新建模型存放文件夹
手动新建文件夹:
P:\AI\Ollama\Models
路径不要中文、不要空格。
第2步:配置3条环境变量(2个国内镜像 + 模型路径)
- Win+R,输入
sysdm.cpl→ 高级 →【环境变量】 - 在用户变量(不是系统变量)点【新建】,一共新建3个:
| 变量名 | 变量值 |
|---|---|
OLLAMA_MODELS |
P:\AI\Ollama\Models |
OLLAMA_HF_MIRROR |
https://modelscope.cn |
OLLAMA_REGISTRY_MIRROR |
https://ollama.modelscope.cn |
全部点确定保存所有窗口。
第3步:彻底重启Ollama(这一步不能省略!)
- 看屏幕右下角托盘,找到小羊Ollama图标,右键 → Quit Ollama(完全退出)。
- 从开始菜单重新打开 Ollama。
不退出重启,环境变量不会生效,模型依旧下C盘。
✅验证环境变量是否生效
打开PowerShell,输入:
powershell
[Environment]::GetEnvironmentVariable("OLLAMA_MODELS","User")
输出返回 P:\AI\Ollama\Models 代表设置成功。
第4步:国内网络拉取大模型(适配你的机器R9‑5900X + RTX4060 8G)
你的显卡只有8G显存,优先选择4bit量化版本。
管理员PowerShell执行:
powershell
# Qwen3 7B,中文效果好,4060 8G流畅跑(推荐首选)
ollama pull qwen3:7b-q4_K_M
备选:DeepSeek‑R1 14B‑Q4_K_M,推理强,但是显存压力大,长文本容易爆显存
powershell
ollama pull deepseek-r1:14b-q4_K_M
下载完成后,模型文件全部保存在:
P:\AI\Ollama\Models,C盘不会产生模型文件。
校验模型位置
下载完成后打开文件夹 P:\AI\Ollama\Models,里面出现blobs、manifests文件夹,代表模型已经存在P盘。
测试模型是否正常运行
powershell
ollama run qwen3:7b-q4_K_M
遇到问题:
搜索不到,我现在要怎么下载本地大模型?国内能用的连接。
问题说明
Ollama图形界面(GUI)的搜索框需要访问国外ollama.com的模型库 ,国内网络直接搜不到任何本地模型,这个界面的搜索功能国内基本废掉,不要在GUI里找模型,改用PowerShell命令,走国内魔搭源下载,全部存P盘。
前提确认:
- 设置界面
Model location已经改为P:\AI\Ollama\Models - 托盘右键完全退出Ollama,重新打开Ollama。
方案A:PowerShell命令直接拉取(优先,国内魔搭源,不用访问外网)
打开普通PowerShell(不用管理员),直接复制下面其中一条执行:
powershell
# 你的RTX4060‑8G首选,Qwen3‑7B Q4_K_M,中文效果最好
ollama pull modelscope.cn/Qwen/Qwen3‑7B‑Instruct‑GGUF:q4_K_M
如果想试更强推理模型(显存压力大)
powershell
ollama pull modelscope.cn/deepseek‑ai/DeepSeek‑R1‑14B‑GGUF:q4_K_M
✅下载全部落到 P:\AI\Ollama\Models,不会占用C盘。
下载完成后执行,查看已安装模型列表:
powershell
ollama list
此时回到Ollama图形界面,下拉选择框就会出现这个模型,就可以对话。
如果命令下载也超时,直接使用【方案B:浏览器手动下载GGUF离线文件,本地导入】。
方案B:离线手动下载模型(完全断外网也能用,终极方案)
1.浏览器打开魔搭(国内网站,无需翻墙)
https://modelscope.cn/models/Qwen/Qwen3‑7B‑Instruct‑GGUF/files
找到文件:qwen3‑7b‑instruct‑q4_K_M.gguf,点击下载,保存到 P:\AI\Ollama\gguf_temp(自己新建文件夹)。
下载魔塔的模型:
pip install modelscope
[modelscope download --model Tencent-Hunyuan/Hy-MT2-7B-GGUF README.md --local_dir ./dir]()
2.在这个文件夹新建文件 Modelfile(没有后缀名)
-
在
P:\AI\Ollama\gguf_temp新建文本文档,把名字完整改为Modelfile(删掉.txt后缀) -
右键编辑,写入一行:
FROM ./qwen3‑7b‑instruct‑q4_K_M.gguf
3.PowerShell进入这个目录,执行导入
powershell
P:
cd P:\AI\Ollama\gguf_temp
ollama create qwen3:7b‑q4_K_M -f Modelfile
执行结束,模型自动迁移到P:\AI\Ollama\Models,完成导入。
powershell
ollama list
列表出现模型,GUI界面下拉框就可以选它。