关于Ollama在RX9070xt上无法识别GPU问题

最近在跑本地大模型,下载了ollama,想跑下deepseek-r1,发现跑推理时候没有使用到我的GPU,只有CPU狠狠拉满

后续在github查issue时候发现有人和我遇到相同问题,下面贴一下

按照他的步骤和我理解,重新梳理得出如下步骤

第一步 安装HIP AMD HIP SDK for Windows

我的是9070xt,选择红框部分更新

第二步,添加环境变量

ROCBLAS_TENSILE_LIBPATH 建议两个都新增一下
ROCBLAS_TENSILE_LIBPATH 值为C:\Program Files\AMD\ROCm\6.4\bin\rocblas\library

系统变量添加
OLLAMA_VULKAN 值为1

第三步 下载ollama相关配置

1.我这边下载0.13.5 的压缩包

2.下载hip sdk 0.6.4.2

3.然后随便找个版本的ollama.exe 启动器

下载工作准备完成后,放到同一个文件夹​​​​​​​

开始安装ollama

如果直接点击exe文件会直接安装到C盘,这里我想安装到D盘,操作如下

在当前文件夹启动终端cmd,输入OllamaSetup.exe /DIR=D:\Ollama,就可以安装到D盘了

安装完后需要替换文件

上面我们解压rocm.for.official.Support得到两个东西,一个文件夹一个配置文件

将解压的文件夹替换原来安装ollama时候生成的新lib文件里面的library文件夹,我的路径是D:\Ollama\lib\ollama\rocm\rocblas ​​​​​​​

将解压的配置文件替换原来安装ollama时候生成的新lib文件里面的library文件夹,我的路径是D:\Ollama\lib\ollama\rocm 里面的rocblas.dll文件

替换重新启动访问,可以识别到显卡,并且使用显卡进行推理了

相关推荐
彩讯股份3006347 小时前
彩讯股份与心洲科技签署战略合作协议,共建企业级模型后训练能力
人工智能·科技
Litluecat8 小时前
2026年7月22日科技热点新闻
人工智能·科技·新闻·每日·速览
灵途科技15 小时前
灵途科技获评武汉市人工智能企业 持续深耕具身智能感知技术
人工智能·科技
意图共鸣15 小时前
意图共鸣科技|认知锚点:AI时代品牌的新定义权
人工智能·科技
Litluecat16 小时前
2026年7月23日科技热点新闻
人工智能·科技·新闻·每日·速览
D2aZXN3FhrDa7e21216 小时前
美诚科技线索挖掘精准度行业实测对比
科技·佛山美诚科技有限公司
潜创微科技17 小时前
4K60 网线延长器方案
科技
QXWZ_IA17 小时前
桥梁数字孪生怎么落地?
人工智能·科技·算法·智能硬件·政务
Xzaveir_77717 小时前
OPPO、vivo、荣耀号码认证:多终端拨测矩阵与异常复现
大数据·网络·科技·矩阵·产品经理·ai-native
延凡科技17 小时前
智慧燃气解决方案:管道煤气监管应用管理系统(三维GIS+IoT+大数据落地实战)
大数据·人工智能·科技·物联网·安全