Windows系统编译支持GPU的llama.cpp

mingo_敏2025-05-02 14:51

Windows系统编译支持GPU的llama.cpp

bash 复制代码

git clone https://github.com/ggerganov/llama.cpp.git
cd llama.cpp
mkdir build
cd build

bash 复制代码

cmake .. -G "Visual Studio 17 2022" -DGGML_CUDA=ON -DCMAKE_BUILD_TYPE=Release -DCMAKE_CUDA_ARCHITECTURES="86"

bash 复制代码

cmake --build . --config Release -- /m

上一篇：深入理解C语言中的整形提升与算术转换

下一篇：npm init、换源问题踩坑

热门推荐

01KGG转MP3工具|非KGM文件|解密音频 02YOLOv8入门 | 重要性能衡量指标、训练结果评价及分析及影响mAP的因素【发论文关注的指标】03从零安装 LLaMA-Factory 微调 Qwen 大模型成功及所有的坑 04【2025年最新】OpenWrt 更换国内源的指南（图形界面版)05【SpeedAI科研小助手】2分钟极速解决知网维普重复率、AIGC率过高，一键全文降！文件格式不变，公式都保留的！06DeepSeek各版本说明与优缺点分析 07Ubuntu24.04安装中文输入法 08Coze扣子平台完整体验和实践（附国内和国际版对比）09组基轨迹建模 GBTM的介绍与实现（Stata 或 R）10【HarmonyOS】HUAWEI DevEco Studio 下载地址汇总