个人游戏笔记本免费“养龙虾”(二)用显卡GPU运行OpenClaw,CUDA的安装与配置

个人游戏笔记本免费"养龙虾"(二)用显卡GPU运行OpenClaw,CUDA的安装与配置


系列文章:
1. 个人游戏笔记本免费"养龙虾"(Win10+WSL2+OpenClaw 部署与配置指南)

Win10下配置WSL2使用CUDA

参考文献1:Win10下配置WSL2使用CUDA搭建深度学习环境-腾讯云

1、windows安装nvidia GPU驱动

根据自己的显卡型号以及操作系统选择对应驱动,我这里是RTX 2060,操作系统是Win 10 64位。

官网上有两种类型的驱动程序,一个是GeForce Game Ready 驱动程序,另外一个是NVIDIA Studio 驱动程序 。注意:我们要选择GeForce Game Ready 驱动程序,不要选错了。

驱动下载地址:NVIDIA GeForce 驱动程序 - N 卡驱动 | NVIDIA

安装完驱动后,在powershell中输入nvidia-smi,可以看到驱动支持的最高CUDA版本。

2、在WSL2中安装CUDA

进入英伟达官网,找到CUDA Tookit下载页面,按下图选择对应的版本。根据平台类型选择Linux_x86_64_WSL_Ubuntu 2.0_deb(local)。

网页中显示出Ubuntu的执行命令。考虑到网速下载快慢问题,可以先用Windows的浏览器下载第一和第三项的文件,到d:盘。接着,在WSL_Ubuntu 终端中,先切换到d:盘($ cd /mnt/d/),再依次输入指令。这样,下载的速度会快些。

3、添加CUDA Toolkit路径

安装完成后,配置对应的环境变量,默认是修改.bashrc文件,

bash 复制代码
# 1. 打开bash配置文件
$ nano ~/.bashrc

# 2. 在文件末尾添加以下内容
export PATH=/usr/lib/wsl/lib:$PATH
export LD_LIBRARY_PATH=/usr/local/cuda-13.2/lib64:$LD_LIBRARY_PATH

# 3. 按Ctrl+O保存,按Enter确认文件名,按Ctrl+X退出

# 4. 使配置立即生效
$ source ~/.bashrc

4、关联nvidia-smi

在上一篇文章中,我们在windwos下输入nvidia-smi是可以运行的,同样其实在WSL中也可以使用nvidia-smi命令,不过WSL的nvidia-smi在 /usr/lib/wsl/lib/目录,故我们只需要对/usr/lib/wsl/lib/nvidia-smi进行软链接到/usr/bin/:

bash 复制代码
ln -s /usr/lib/wsl/lib/nvidia-smi /usr/bin/nvidia-smi

注意:一旦系统安装了Windows NVIDIA GPU驱动程序,CUDA便可在WSL2中使用。安装在Windows主机上的CUDA驱动程序将在WSL 2内部被模拟为 ,因此用户切勿在WSL 2内部安装任何NVIDIA GPU Linux驱动程序。这里必须非常小心,因为默认的CUDA Toolkit会捆绑驱动程序,很容易在默认安装过程中覆盖WSL2的NVIDIA驱动程序。我们建议开发人员使用从CUDA Toolkit下载页面获取的WSL2(Ubuntu)专用CUDA Toolkit,以避免此类覆盖。


5、【解决】error:unable to allocate CUDA0 buffer

参考文献2:error: llama runner process has terminated

模型参数过大时,会报错:
error: llama runner process has terminated:error loading mode: unable to allocate CUDAO buffer

主要原因是:

  • (1)多 GPU 冲突
    默认使用集成显卡(而非独立显卡)。多 GPU 显存分配冲突。
    解决方法:禁用集成显卡(需在 BIOS 中设置)
  • (2)GPU显存不足
    解决方法:选用参数规模较小的模型,例如选择qwen3.5:2b,而不能选择qwen3.5:4b

测试结果

打开资源管理器,在openclaw中对话时,可以看到占用了4.1G的GPU内存,GPU和CPU的利用率都在10%以下。如果不配置使用GPU,那么CPU的使用率会持续在100%。

另外,要关闭不必要的软件。否则,openclaw也会因为内存不足而崩溃。

相关推荐
吴佳浩1 小时前
一文讲透AI算力单位:TFLOPS、PFLOPS、TOPS、稀疏算力,到底怎么算、怎么比?
人工智能·ai编程·gpu
武子康3 小时前
从世界状态到可执行控制:Cosmos 3 Edge 与机器人控制器之间应建立什么合同
人工智能·agent·nvidia
VNDR3 小时前
vLLM 在 RTX 4060 上的推理性能调优全记录
gpu
张忠琳1 天前
【NVIDIA】k8s-device-plugin v0.19.3 NVIDIA k8s-device-plugin v0.19.3 核心插件模块深度分析之一
云原生·容器·架构·kubernetes·nvidia
七夜zippoe1 天前
OpenClaw 在电商行业:智能导购助手实战(多轮对话+知识库+融合推荐+A/B 优化)
知识库·电商·多轮对话·openclaw·智能导购·融合推荐
纪伊路上盛名在1 天前
NVML ERROR_ RM has detected an NVML_RM version mismatch
linux·数据库·gpu·驱动
张忠琳3 天前
【NVIDIA】 NVIDIA Container Toolkit v1.19.1 — OCI 模块超深度分析之三
云原生·容器·架构·kubernetes·nvidia
GPUStack3 天前
怎么优雅地在GPUStack上使用minerU?
ai·大模型·llm·gpu·vllm·gpu集群·gpustack
带娃的IT创业者3 天前
突破内存瓶颈:利用 Nvidia GPU 显存作为 Linux Swap 空间的深度实践
linux·运维·服务器·nvidia·swap·gpu显存
feiniao86513 天前
openclaw配置代理时如何绕过飞书地址
proxy·openclaw