Windows RX6500XT(gfx1034) Ollama AMD ROCm 完整安装教程

Windows RX6500XT(gfx1034) Ollama AMD ROCm 完整安装教程

我的显卡：RX 6500XT = gfx1034 ，官方Ollama不原生支持，需使用社区魔改ollama-for-amd + 对应gfx1034 ROCmLibs + HIP SDK 5.7系列，全程严格保证版本三统一：

1. ollama-for-amd 绑定ROCm版本
2. 本机安装的HIP SDK版本
3. 下载的ROCmLibs库版本

前置准备

1. 卸载电脑已装官方Ollama，避免冲突

步骤1：下载安装 HIP SDK 5.7.x（推荐5.7.1/5.7.7）

1. 下载地址：HIP SDK

2. 选择 HIP SDK 5.7 安装包，运行安装程序

3. 安装完成必须重启电脑

4. 配置系统环境变量PATH（关键）

   • 此电脑右键→属性→高级系统设置→环境变量

   • 在系统变量Path添加：

     C:\Program Files\AMD\ROCm\5.7\bin

5. 验证：新开CMD输入hipinfo，能打印显卡信息即安装成功
   

步骤2：下载社区魔改 ollama-for-amd v0.5.4（ROCm5.7版本）

1. 发布页：ROCm5.7版本
2. Assets里下载：ollama-windows-amd64-rocm5.7-v2.7z
3. 解压到纯英文无空格路径，例如 D:\AI\ollama-windows-amd64
   

不要用安装器OllamaSetup.exe，直接用解压绿色版

步骤3：下载适配 gfx1034 的 ROCmLibs（匹配HIP SDK5.7）

1. 库发布页：ROCmLibs
   支持 gtx1034 的两个压缩包
2. 查找对应文件：Rocm.rocblas.HIP5.7.0.V2.7z（内含gfx1034支持）
   • 原文说明：该压缩包包含 gfx1030/gfx1031/gfx1032/gfx1034/gfx1035/gfx1036 全系Navi23显卡
3. 解压压缩包，得到两个核心文件/文件夹：
   • rocblas.dll
   • library 文件夹
     

步骤4：ROCmLibs替换系统ROCm目录文件（备份优先）

目标目录：C:\Program Files\AMD\ROCm\5.7\bin\rocblas\

1. 备份操作
   1. 复制C:\Program Files\AMD\ROCm\5.7\bin\rocblas.dll到rocblas\library
   2. 将rocblas\library重命名为oldlibrary（出错可恢复）
2. 覆盖替换
   1. 将下载的rocblas.dll复制覆盖到C:\Program Files\AMD\ROCm\5.7\bin\
   2. 将解压得到的library文件夹，复制到C:\Program Files\AMD\ROCm\5.7\bin\rocblas\

步骤5：ROCmLibs 替换魔改Ollama内部ROCm库（核心步骤）

目标目录：D:\AI\ollama-windows-amd64\lib\ollama\

1. 备份原有文件
   1. 复制目录内rocblas.dll新建rocblas\library存放
   2. 将rocblas\library重命名oldlibrary
2. 覆盖替换
   1. 用下载的rocblas.dll覆盖lib\ollama\rocblas.dll
   2. 将解压包library文件夹复制到lib\ollama\rocblas\下

步骤6：启动验证GPU是否生效

1. 打开CMD，进入解压目录：

   cd D:\AI\ollama-windows-amd64
   ollama serve

2. 观察日志输出，出现如下字段代表RX6500XT(gfx1034) GPU推理成功：

   level=INFO ... msg="inference compute" id=0 library=rocm compute=gfx1034 name="AMD Radeon RX 6500 XT"

3. 新开另一个CMD窗口，正常拉取/运行模型：

   ollama pull llama3
   ollama run llama3

常见报错排查

1. 识别不到gfx1034
   • 核对HIP SDK、ollama包、ROCmLibs三者版本必须全是5.7系列
   • 确认PATH已添加ROCm bin目录，重启终端/电脑
2. 启动ollama serve提示rocblas加载失败
   • 检查两处rocblas.dll和library文件夹都完整替换，无权限阻止覆盖
3. 仍走CPU推理，日志无rocm compute行
   • 重新下载完整ROCmLibs，不要单独提取零散文件
   • 确认显卡gfx型号无误：RX6500XT固定gfx1034，可TechPowerUp核对

关键版本提醒（原文硬性要求）

• ollama-for-amd v0.5.4 配套ROCm5.7
• HIP SDK必须安装5.7.x，不可6.1+混装
• ROCmLibs必须选HIP5.7打包版本，内含gfx1034支持

参考文章

参考1

小破显卡终于可以发挥点作用了