Windows系统编译支持GPU的llama.cpp

mingo_敏2025-05-02 14:51

Windows系统编译支持GPU的llama.cpp

bash 复制代码

git clone https://github.com/ggerganov/llama.cpp.git
cd llama.cpp
mkdir build
cd build

bash 复制代码

cmake .. -G "Visual Studio 17 2022" -DGGML_CUDA=ON -DCMAKE_BUILD_TYPE=Release -DCMAKE_CUDA_ARCHITECTURES="86"

bash 复制代码

cmake --build . --config Release -- /m

上一篇：深入理解C语言中的整形提升与算术转换

下一篇：npm init、换源问题踩坑

热门推荐

01GitHub 镜像站点 02国内可直接用、免费额度/永久免费的大模型API清单（含 SiliconFlow、火山、阿里、智谱、百度、Kimi、DeepSeek、DMXAPI 等）03微信历史版本含下载地址（ Windows PC | 安卓 | MAC ）及设置微信不更新 042026 国产 AI 大模型横评：DeepSeek、通义千问、Kimi、文心一言、星火、豆包谁更能打？05VSCode+CodeX扩展，无法启动 06历年考研数学一、数学二、数学三真题试卷及答案PDF 07Agnes AI 免费 API 接入指南：文本、生图、生视频，一套接口全免费 08AI 编程 IDE 全景解析 2026：Agent 全面接管开发链路 092026年7月AI圈大地震：GPT-5.6被政府限制、Claude入驻Slack、Anthropic自研芯片 10如何新建文件夹？电脑新建文件夹的4种方法