关于Ollama在RX9070xt上无法识别GPU问题

最近在跑本地大模型,下载了ollama,想跑下deepseek-r1,发现跑推理时候没有使用到我的GPU,只有CPU狠狠拉满

后续在github查issue时候发现有人和我遇到相同问题,下面贴一下

按照他的步骤和我理解,重新梳理得出如下步骤

第一步 安装HIP AMD HIP SDK for Windows

我的是9070xt,选择红框部分更新

第二步,添加环境变量

ROCBLAS_TENSILE_LIBPATH 建议两个都新增一下
ROCBLAS_TENSILE_LIBPATH 值为C:\Program Files\AMD\ROCm\6.4\bin\rocblas\library

系统变量添加
OLLAMA_VULKAN 值为1

第三步 下载ollama相关配置

1.我这边下载0.13.5 的压缩包

2.下载hip sdk 0.6.4.2

3.然后随便找个版本的ollama.exe 启动器

下载工作准备完成后,放到同一个文件夹​​​​​​​

开始安装ollama

如果直接点击exe文件会直接安装到C盘,这里我想安装到D盘,操作如下

在当前文件夹启动终端cmd,输入OllamaSetup.exe /DIR=D:\Ollama,就可以安装到D盘了

安装完后需要替换文件

上面我们解压rocm.for.official.Support得到两个东西,一个文件夹一个配置文件

将解压的文件夹替换原来安装ollama时候生成的新lib文件里面的library文件夹,我的路径是D:\Ollama\lib\ollama\rocm\rocblas ​​​​​​​

将解压的配置文件替换原来安装ollama时候生成的新lib文件里面的library文件夹,我的路径是D:\Ollama\lib\ollama\rocm 里面的rocblas.dll文件

替换重新启动访问,可以识别到显卡,并且使用显卡进行推理了

相关推荐
赛博云推-Twitter热门霸屏工具2 小时前
推特自动化营销新趋势:赛博云推如何实现热门霸屏与精准获客
运维·科技·自动化·媒体·twitter
星幻元宇VR2 小时前
VR社区安全学习机|开启智慧社区新模式
科技·学习·安全·vr·虚拟现实
星幻元宇VR2 小时前
智慧反诈新时代|VR反诈骗学习机的应用解析
科技·学习·vr·虚拟现实
怿星科技3 小时前
怿星科技助力蔚来汽车打造NT3平台性能与稳定性测试“基座”
科技·汽车
Cx330❀3 小时前
Linux ELF格式与可执行程序加载全解析:从磁盘文件到运行进程
linux·运维·服务器·人工智能·科技
MicroTech20253 小时前
微算法科技(NASDAQ: MLGO)探索量子机器学习算法在预测模型中的应用,利用量子核方法提升复杂模式识别能力
科技·算法·机器学习
全栈开发圈11 小时前
新书速览|Seaborn科技绘图:基于Matplotlib的Python数据可视化
python·科技·matplotlib
八月瓜科技12 小时前
擎策·知海全球专利数据库 技术赋能检索 让科技创新少走弯路
大数据·数据库·人工智能·科技·深度学习·娱乐
萤丰信息12 小时前
智慧园区:数智赋能,重构城市运营新生态
人工智能·科技·安全·重构·架构·智慧城市·智慧园区