Windows系统编译支持GPU的llama.cpp

mingo_敏2025-05-02 14:51

Windows系统编译支持GPU的llama.cpp

bash 复制代码

git clone https://github.com/ggerganov/llama.cpp.git
cd llama.cpp
mkdir build
cd build

bash 复制代码

cmake .. -G "Visual Studio 17 2022" -DGGML_CUDA=ON -DCMAKE_BUILD_TYPE=Release -DCMAKE_CUDA_ARCHITECTURES="86"

bash 复制代码

cmake --build . --config Release -- /m

上一篇：深入理解C语言中的整形提升与算术转换

下一篇：npm init、换源问题踩坑

热门推荐

012024年最新 iPhone手机历代机型、屏幕尺寸、纵横比、分辨率整理 02Coze实战第13讲：飞书多维表格读取+豆包生图模型，轻松批量生成短剧封面 03Coze扣子平台完整体验和实践（附国内和国际版对比）04MIUI显示/隐藏5G开关的方法，信号弱时开启手机Wifi通话方法 05手机电脑之间快速传输图片视频文件，不压缩画质、不限制大小的方法！06扣子（coze）实战|我用扣子搭建了一个自动分析小红薯笔记内容的AI应用|详细步骤拆解 07GPU 进阶笔记（二）：华为昇腾 910B GPU 08华为昇腾 910B 部署 DeepSeek-R1 蒸馏系列模型详细指南 09DeepSeek各版本说明与优缺点分析 10Word粘贴时出现“运行时错误53,文件未找到：MathPage.WLL“的解决方案