关于Ollama在RX9070xt上无法识别GPU问题

最近在跑本地大模型,下载了ollama,想跑下deepseek-r1,发现跑推理时候没有使用到我的GPU,只有CPU狠狠拉满

后续在github查issue时候发现有人和我遇到相同问题,下面贴一下

按照他的步骤和我理解,重新梳理得出如下步骤

第一步 安装HIP AMD HIP SDK for Windows

我的是9070xt,选择红框部分更新

第二步,添加环境变量

ROCBLAS_TENSILE_LIBPATH 建议两个都新增一下
ROCBLAS_TENSILE_LIBPATH 值为C:\Program Files\AMD\ROCm\6.4\bin\rocblas\library

系统变量添加
OLLAMA_VULKAN 值为1

第三步 下载ollama相关配置

1.我这边下载0.13.5 的压缩包

2.下载hip sdk 0.6.4.2

3.然后随便找个版本的ollama.exe 启动器

下载工作准备完成后,放到同一个文件夹​​​​​​​

开始安装ollama

如果直接点击exe文件会直接安装到C盘,这里我想安装到D盘,操作如下

在当前文件夹启动终端cmd,输入OllamaSetup.exe /DIR=D:\Ollama,就可以安装到D盘了

安装完后需要替换文件

上面我们解压rocm.for.official.Support得到两个东西,一个文件夹一个配置文件

将解压的文件夹替换原来安装ollama时候生成的新lib文件里面的library文件夹,我的路径是D:\Ollama\lib\ollama\rocm\rocblas ​​​​​​​

将解压的配置文件替换原来安装ollama时候生成的新lib文件里面的library文件夹,我的路径是D:\Ollama\lib\ollama\rocm 里面的rocblas.dll文件

替换重新启动访问,可以识别到显卡,并且使用显卡进行推理了

相关推荐
小贺儿开发2 小时前
Unity 程序员编曲花絮:汪峰《河流》细节修复
科技·学习·unity·程序员·音乐·demo·写代码
网络研究院3 小时前
不装了!Claude背后的AI巨头也开始造芯片了,英伟达的“铁饭碗”要被砸?
人工智能·科技·ai·芯片·供应链·底层·产业链
腾渊信息科技公司5 小时前
腾渊科技重磅出品——多Agent集群实战:从通信层到调度中枢的完整架构方案
科技·架构·腾渊科技·腾渊信息科技
mennekes18 小时前
数据中心安全配电设备如何选择?
运维·人工智能·科技·安全·制造
国商联21 小时前
科技引领健康,服务温暖人心——国商联在行动
人工智能·科技·百度·生活
2601_9670972221 小时前
嘉兴猛凌信息科技:双基地协同布局 以工业级品控打造 LED 显示全场景方案
科技
cd_9492172121 小时前
《全球具身数据市场白皮书》观察:觅蜂科技数据治理平台
大数据·人工智能·科技
2601_949499941 天前
技术干货|高密度智算中心散热破局:芯瑞科技400G VR4 OSFP光模块技术解析与工程实测
科技
paopao_djshddhdj1 天前
钉钉智能绩效:功能解析与收费模式
科技·钉钉
南岸的水1 天前
GB/T 18487.1-2023 深度解读(四):直流快充的七步安全闭环
科技·能源