如何在DCU上面编译llama.cpp

文章目录

推荐一个免费的 语音识别网站

一、环境配置

操作系统以及各种软件的版本如下:

二、下载代码并编译

bash 复制代码
git clone  https://github.com/ggml-org/llama.cpp.git
cd llama.cpp
HIPCXX="$(hipconfig -l)/clang" HIP_PATH="$(hipconfig -R)" cmake -S . -B build -DGGML_HIP=ON -DGPU_TARGETS=gfx928 -DCMAKE_BUILD_TYPE=Release

备注:在上面的命令中,gfx928是DCU的架构名称,可以通过下面的命令获得:

bash 复制代码
clinfo | grep Name

编译时,报错如下:

此时,vi examples/CMakeLists.txt,将simple文件夹那行注释掉:

重新运行上面的编译命令,再次报错如下:

解决办法是:

bash 复制代码
sed -i 's/5\.3\.25211/6.3.25211/g' /opt/dtk/lib/cmake/hip/hip-config-version.cmake

然后再次重新运行上面的编译命令。

完成后,再运行:(下面的128可改为你真实的cpu核数)

bash 复制代码
cmake --build build --config Release -- -j 128

此处的编译时间很长,需耐心等待。

如果中途报错如下:

那么就执行下面的操作:

bash 复制代码
apt install libclang-rt-15-dev
#下面的LDFLAGS路径是通过这个命令获得:find /usr/lib -name "libclang_rt.builtins-x86_64.a"
#/usr/lib/llvm-15/lib/clang/15.0.7/lib/linux/libclang_rt.builtins-x86_64.a
export LDFLAGS="-L/usr/lib/llvm-15/lib/clang/15.0.7/lib/linux"
rm -rf build
HIPCXX="$(hipconfig -l)/clang" HIP_PATH="$(hipconfig -R)" cmake -S . -B build -DGGML_HIP=ON -DGPU_TARGETS=gfx928 -DCMAKE_BUILD_TYPE=Release
cmake --build build --config Release -- -j 128

最终成功的编译结果截图:

128核cpu并行编译,耗时7分钟38秒。

三、参考文献

相关推荐
琳少_5 小时前
java程序开发笔记
java·开发语言·数据库·笔记
Z21-X8 小时前
云原生运维学习笔记:Kubernetes Volume 与 Secret 实验
运维·笔记·学习·云原生·kubernetes
一只大鸽子8 小时前
游戏开发笔记7-Godot RPG游戏基础-场景切换、全局脚本
笔记·游戏·godot
吃我一窝jio12 小时前
Docker+Jenkins+K8s全流程部署
java·开发语言·笔记·python
我超膨胀der.12 小时前
关于如何完整转移LABVIEW源码
笔记·labview
国科安芯13 小时前
FPGA上电偶发不启动:多轨电源时序、PGOOD与并联供电的FAE排查笔记——ASP4644S2B在星载智能处理板中的工程应用分析
笔记·单片机·嵌入式硬件·fpga开发·低轨卫星·抗辐射
一条破秋裤1 天前
【1115】【多线程】【笔记】
前端·chrome·笔记
神明不懂浪漫1 天前
【第八章】多线程(一)
java·开发语言·经验分享·笔记
星恒随风1 天前
MySQL 从零入门(九):事务管理详解——ACID、COMMIT、ROLLBACK、SAVEPOINT 与四种隔离级别
linux·服务器·数据库·笔记·mysql