OpenClaw + Ollama Windows完整部署过程

环境:Windows11,RTX4060,**优先原生Windows部署

硬件提醒:

  • 7B模型Q4:显存≥8GB;14B‑Q4:≥12GB;32B‑Q4:≥20GB显存
  • 全部放在SSD,不要机械盘;模型目录不要放C盘,避免C盘爆盘
  • OpenClaw是自主智能代理,会读写本地文件、执行命令,新手务必开启操作确认,不要全开权限

整体流程顺序(不能颠倒!)

  1. 安装NVIDIA显卡驱动(必须最先做)
  2. 安装Ollama、修改模型存储路径、拉取agent适配模型、验证Ollama API
  3. 安装OpenClaw
  4. 修改OpenClaw配置对接Ollama本地API
  5. 启动gateway,网页访问测试
  6. 重点坑位清单 + 报错一键排查

第一步:更新NVIDIA显卡驱动

  1. 去NVIDIA官网下载最新Game Ready驱动,不要用Windows自动更新驱动

❗坑:驱动版本过低,Ollama识别不到GPU,全程CPU跑,速度极慢,以为部署失败。

第二步:安装配置 Ollama

  1. 官网下载 OllamaSetup.exe:https://ollama.com/download/windows
  2. 先设置环境变量,再安装!(避免模型全部塞C盘)
  • Win搜索「编辑账户环境变量」

  • 新建用户变量:

    变量名:OLLAMA_MODELS
    变量值:D:\AI\Ollama\Models

D盘提前建好文件夹 D:\AI\Ollama\Models不要中文路径、不要空格

  1. 执行安装包,双击OllamaSetup.exe直接下一步;

自定义程序安装目录命令(可选):

cmd 复制代码
OllamaSetup.exe /DIR="D:\AI\Ollama"
  1. 安装完成后,右下角托盘出现Ollama图标,代表后台服务已启动。

验证Ollama是否正常

打开 PowerShell(普通用户,不要管理员)

powershell 复制代码
ollama --version
ollama list

拉取适合OpenClaw Agent的模型(必须支持function‑call工具调用)

推荐:qwen2.5‑coder:14b‑q4_K_M(中文agent表现最好);显存8G用7b‑q4_K_M

powershell 复制代码
ollama pull qwen2.5-coder:14b-q4_K_M

❗坑:不要随便拉普通闲聊模型,很多模型不支持工具调用,OpenClaw会疯狂报错、无法执行任务。

本地测试模型是否可运行

powershell 复制代码
ollama run qwen2.5-coder:14b-q4_K_M "你好"

能正常回复就Ctrl+C退出。

测试Ollama API端口(极其关键!OpenClaw走这个接口)

新开PowerShell执行:

powershell 复制代码
curl http://127.0.0.1:11434/api/tags

✅ 正常返回json列表;

❌ 报错拒绝连接:右下角托盘退出Ollama,重新打开Ollama启动后台服务。

⚠️重点坑:不要写localhost,后面OpenClaw配置统一写127.0.0.1,Windows下部分node环境localhost解析异常导致连接失败。


第三步:安装 OpenClaw(Windows原生)

验证安装:

powershell 复制代码
openclaw --version

输出版本号代表成功。

OpenClaw配置文件路径:

C:\Users\你的用户名\.openclaw\openclaw.json

⚠️不要手动用记事本直接改json,容易编码错误,推荐vscode编辑。

初始化向导(onboard)

管理员PowerShell执行

powershell 复制代码
openclaw onboard

第四步:启动OpenClaw Gateway服务

PowerShell(管理员)

powershell 复制代码
openclaw gateway start

看到输出:Gateway started successfully on http://127.0.0.1:18789

浏览器打开:

复制代码
http://127.0.0.1:18789

首次访问会给授权token,复制终端输出的token填入网页。

测试模型连通

网页发送简单指令:输出3行python代码

第一次请求会加载模型,等待几十秒,不要刷新页面。



日常启停命令速查

powershell 复制代码
# 停止网关
openclaw gateway stop
# 启动网关
openclaw gateway start
# 查看网关状态
openclaw gateway status
# 校验配置文件语法
openclaw config validate

每次修改openclaw.json之后,必须执行openclaw gateway stopstart

怎么安装AI本地大模型?

Ollama模型存P盘完整步骤(程序已在P:\AI\Ollama

⚠️重点:程序安装位置 ≠ 模型存放位置 ,模型默认会跑到C盘,必须设置OLLAMA_MODELS环境变量,所有模型就全部下载到P盘,完全不碰C盘。

第1步:新建模型存放文件夹

手动新建文件夹:

复制代码
P:\AI\Ollama\Models

路径不要中文、不要空格

第2步:配置3条环境变量(2个国内镜像 + 模型路径)

  1. Win+R,输入 sysdm.cpl → 高级 →【环境变量】
  2. 用户变量(不是系统变量)点【新建】,一共新建3个:
变量名 变量值
OLLAMA_MODELS P:\AI\Ollama\Models
OLLAMA_HF_MIRROR https://modelscope.cn
OLLAMA_REGISTRY_MIRROR https://ollama.modelscope.cn

全部点确定保存所有窗口。

第3步:彻底重启Ollama(这一步不能省略!)

  1. 看屏幕右下角托盘,找到小羊Ollama图标,右键 → Quit Ollama(完全退出)
  2. 从开始菜单重新打开 Ollama。

不退出重启,环境变量不会生效,模型依旧下C盘。

✅验证环境变量是否生效

打开PowerShell,输入:

powershell 复制代码
[Environment]::GetEnvironmentVariable("OLLAMA_MODELS","User")

输出返回 P:\AI\Ollama\Models 代表设置成功。

第4步:国内网络拉取大模型(适配你的机器R9‑5900X + RTX4060 8G)

你的显卡只有8G显存,优先选择4bit量化版本。

管理员PowerShell执行:

powershell 复制代码
# Qwen3 7B,中文效果好,4060 8G流畅跑(推荐首选)
ollama pull qwen3:7b-q4_K_M

备选:DeepSeek‑R1 14B‑Q4_K_M,推理强,但是显存压力大,长文本容易爆显存

powershell 复制代码
ollama pull deepseek-r1:14b-q4_K_M

下载完成后,模型文件全部保存在:

P:\AI\Ollama\Models,C盘不会产生模型文件。

校验模型位置

下载完成后打开文件夹 P:\AI\Ollama\Models,里面出现blobsmanifests文件夹,代表模型已经存在P盘。

测试模型是否正常运行

powershell 复制代码
ollama run qwen3:7b-q4_K_M

遇到问题:

搜索不到,我现在要怎么下载本地大模型?国内能用的连接。

问题说明

Ollama图形界面(GUI)的搜索框需要访问国外ollama.com的模型库 ,国内网络直接搜不到任何本地模型,这个界面的搜索功能国内基本废掉,不要在GUI里找模型,改用PowerShell命令,走国内魔搭源下载,全部存P盘。
前提确认:

  1. 设置界面Model location已经改为 P:\AI\Ollama\Models
  2. 托盘右键完全退出Ollama,重新打开Ollama。

方案A:PowerShell命令直接拉取(优先,国内魔搭源,不用访问外网)

打开普通PowerShell(不用管理员),直接复制下面其中一条执行:

powershell 复制代码
# 你的RTX4060‑8G首选,Qwen3‑7B Q4_K_M,中文效果最好
ollama pull modelscope.cn/Qwen/Qwen3‑7B‑Instruct‑GGUF:q4_K_M

如果想试更强推理模型(显存压力大)

powershell 复制代码
ollama pull modelscope.cn/deepseek‑ai/DeepSeek‑R1‑14B‑GGUF:q4_K_M

✅下载全部落到 P:\AI\Ollama\Models,不会占用C盘。

下载完成后执行,查看已安装模型列表:

powershell 复制代码
ollama list

此时回到Ollama图形界面,下拉选择框就会出现这个模型,就可以对话。

如果命令下载也超时,直接使用【方案B:浏览器手动下载GGUF离线文件,本地导入】。

方案B:离线手动下载模型(完全断外网也能用,终极方案)

1.浏览器打开魔搭(国内网站,无需翻墙)

https://modelscope.cn/models/Qwen/Qwen3‑7B‑Instruct‑GGUF/files

找到文件:qwen3‑7b‑instruct‑q4_K_M.gguf,点击下载,保存到 P:\AI\Ollama\gguf_temp(自己新建文件夹)。

下载魔塔的模型:

复制代码
pip install modelscope

[modelscope download --model Tencent-Hunyuan/Hy-MT2-7B-GGUF README.md --local_dir ./dir]()

2.在这个文件夹新建文件 Modelfile(没有后缀名)

  1. P:\AI\Ollama\gguf_temp新建文本文档,把名字完整改为Modelfile(删掉.txt后缀)

  2. 右键编辑,写入一行:

    FROM ./qwen3‑7b‑instruct‑q4_K_M.gguf

3.PowerShell进入这个目录,执行导入

powershell 复制代码
P:
cd P:\AI\Ollama\gguf_temp
ollama create qwen3:7b‑q4_K_M -f Modelfile

执行结束,模型自动迁移到P:\AI\Ollama\Models,完成导入。

powershell 复制代码
ollama list

列表出现模型,GUI界面下拉框就可以选它。

相关推荐
YCOSA20254 小时前
雨晨 Windows 11 IoT 企业版 LTSC 26H1 特制 28000.2796
windows·物联网
Jay-r4 小时前
DeepSeek Harness 极简上手:装好、玩熟、让它自己长新能力
人工智能·windows·ai·github·ai编程·deepseek·harness
Logintern097 小时前
Langgraph使用MemorySaver建立有记忆的图
开发语言·windows·python
北漂燕郊杨哥7 小时前
phpStudy 手工安装最新稳定版 PHP 8.5.9(NTS)方法(Windows 本地开发)
windows·php·phpstudy
Albart5758 小时前
Docker Desktop最新版安装踩坑全记录(Windows_Mac_Linux)【2026 4.74.0 终版】
linux·windows·macos·docker·环境搭建·踩坑记录
青 春 记 忆8 小时前
零基础入门python07:让程序记住数据——JSON文件和异常处理
开发语言·windows·python·json·python3.11
深念Y9 小时前
Windows → WSL2 全面迁移:工具链、Docker、OpenCode
linux·运维·windows·docker·容器·环境·wsl
淡海水11 小时前
01-05-运行时-JIT优化全景-内联去虚拟化边界检查消除
windows·c#·虚拟化·jit·内联·边界检查消除
西安景驰电子1 天前
《PTP精确时间协议系列》第一篇:从原理到应用,全面解读IEEE 1588
linux·运维·服务器·开发语言·网络·windows·php