关于Ollama在RX9070xt上无法识别GPU问题

最近在跑本地大模型,下载了ollama,想跑下deepseek-r1,发现跑推理时候没有使用到我的GPU,只有CPU狠狠拉满

后续在github查issue时候发现有人和我遇到相同问题,下面贴一下

按照他的步骤和我理解,重新梳理得出如下步骤

第一步 安装HIP AMD HIP SDK for Windows

我的是9070xt,选择红框部分更新

第二步,添加环境变量

ROCBLAS_TENSILE_LIBPATH 建议两个都新增一下
ROCBLAS_TENSILE_LIBPATH 值为C:\Program Files\AMD\ROCm\6.4\bin\rocblas\library

系统变量添加
OLLAMA_VULKAN 值为1

第三步 下载ollama相关配置

1.我这边下载0.13.5 的压缩包

2.下载hip sdk 0.6.4.2

3.然后随便找个版本的ollama.exe 启动器

下载工作准备完成后,放到同一个文件夹​​​​​​​

开始安装ollama

如果直接点击exe文件会直接安装到C盘,这里我想安装到D盘,操作如下

在当前文件夹启动终端cmd,输入OllamaSetup.exe /DIR=D:\Ollama,就可以安装到D盘了

安装完后需要替换文件

上面我们解压rocm.for.official.Support得到两个东西,一个文件夹一个配置文件

将解压的文件夹替换原来安装ollama时候生成的新lib文件里面的library文件夹,我的路径是D:\Ollama\lib\ollama\rocm\rocblas ​​​​​​​

将解压的配置文件替换原来安装ollama时候生成的新lib文件里面的library文件夹,我的路径是D:\Ollama\lib\ollama\rocm 里面的rocblas.dll文件

替换重新启动访问,可以识别到显卡,并且使用显卡进行推理了

相关推荐
蒸汽求职9 小时前
跨越 CRUD 内卷:半导体产业链与算力基建下的软件工程新生态
人工智能·科技·面试·职场和发展·软件工程·制造
财迅通Ai12 小时前
MLCC与DPC双轮驱动,昀冢科技进入快速放量的增长周期
科技·昀冢科技
星幻元宇VR14 小时前
VR单人地震体验平台,学习科学避险
科技·学习·安全·vr·虚拟现实
2601_9571909016 小时前
超元力悬浮玻璃剧场:科技与美学共生,书写空间叙事新语言
科技
谷歌开发者19 小时前
Build with AI 深圳场|在大湾区科技浪潮中预见 AI 未来
人工智能·科技
2601_9571909020 小时前
科技赋能娱乐:超元力XR无轨黑暗乘骑的技术创新与体验革新
科技·xr·娱乐
北京聚信万通科技有限公司20 小时前
Odette国际组织为北京聚信万通科技有限公司颁发官方授权书
科技·edi·as2·国产软件·oftp2·odette
葡萄城技术团队1 天前
Excel公式前的“@”符号:是Bug还是黑科技?
科技·bug·excel
高工智能汽车1 天前
千里科技发布Robotaxi战略规划:2027年推出综合方案,2030年剑指全球30万辆规模
科技
MicroTech20251 天前
微算法科技(NASDAQ :MLGO)基于量子隐形传态的区块链共识机制:量子时代下的信任重构
科技·重构·区块链