Windows系统编译支持GPU的llama.cpp

mingo_敏2025-05-02 14:51

Windows系统编译支持GPU的llama.cpp

bash 复制代码

git clone https://github.com/ggerganov/llama.cpp.git
cd llama.cpp
mkdir build
cd build

bash 复制代码

cmake .. -G "Visual Studio 17 2022" -DGGML_CUDA=ON -DCMAKE_BUILD_TYPE=Release -DCMAKE_CUDA_ARCHITECTURES="86"

bash 复制代码

cmake --build . --config Release -- /m

上一篇：深入理解C语言中的整形提升与算术转换

下一篇：npm init、换源问题踩坑

热门推荐

01GitHub 镜像站点 02UV安装并设置国内源 03BongoCat - 跨平台键盘猫动画工具 04综合整理：pdf预览显示：你尝试预览的文件可能对你的计算机有害。如果你信任此文件以及其来源，请打开此文件以看其内容，如何解决以正常预览文件 05Linux下V2Ray安装配置指南 06jdk21下载、安装（Windows、Linux、macOS）07安娜的档案(Anna’s Archive) 镜像网站/国内最新可访问入口（持续更新）08npm使用国内淘宝镜像的方法 09PyCharm 社区版全平台安装指南 10NVIDIA显卡驱动、CUDA、cuDNN 和 TensorRT 版本匹配指南