Windows系统编译支持GPU的llama.cpp

mingo_敏2025-05-02 14:51

Windows系统编译支持GPU的llama.cpp

bash 复制代码

git clone https://github.com/ggerganov/llama.cpp.git
cd llama.cpp
mkdir build
cd build

bash 复制代码

cmake .. -G "Visual Studio 17 2022" -DGGML_CUDA=ON -DCMAKE_BUILD_TYPE=Release -DCMAKE_CUDA_ARCHITECTURES="86"

bash 复制代码

cmake --build . --config Release -- /m

上一篇：深入理解C语言中的整形提升与算术转换

下一篇：npm init、换源问题踩坑

热门推荐

01国内可直接用、免费额度/永久免费的大模型API清单（含 SiliconFlow、火山、阿里、智谱、百度、Kimi、DeepSeek、DMXAPI 等）02蜘蛛磁力搜索引擎大全，如何使用蜘蛛磁力查找磁力链接 03历年考研数学一、数学二、数学三真题试卷及答案PDF 04GitHub 镜像站点 05微信历史版本含下载地址（ Windows PC | 安卓 | MAC ）及设置微信不更新 06人工智能（AI）发展史：详细里程碑 072026 国产 AI 大模型横评：DeepSeek、通义千问、Kimi、文心一言、星火、豆包谁更能打？08ZCode 周末送额度活动开启：3 亿 Token 免费领取 092026 爱知・名古屋亚运会怎么看？直播平台+赛程安排分享 10数学公理体系大全:第六章选择公理的等价形式及证明