1. 拉取项目
bash
git clone https://github.com/ggml-org/llama.cpp.git
2.AMD显卡编译项目
-DAMDGPU_TARGETS=gfx1103 要改成自己型号的, 我的是780M显卡,是gfx1103
bash
rm -rf build
cmake -B build -DGGML_HIP=ON -DAMDGPU_TARGETS=gfx1103 -DCMAKE_BUILD_TYPE=Release
cmake --build build --config Release -j$(nproc)
3. NVIDIA显卡编译项目
bash
cmake -B build -DGGML_CUDA=ON
cmake --build build --config Release