Windows系统编译支持GPU的llama.cpp

Windows系统编译支持GPU的llama.cpp

bash 复制代码
git clone https://github.com/ggerganov/llama.cpp.git
cd llama.cpp
mkdir build
cd build
bash 复制代码
cmake .. -G "Visual Studio 17 2022" -DGGML_CUDA=ON -DCMAKE_BUILD_TYPE=Release -DCMAKE_CUDA_ARCHITECTURES="86"
bash 复制代码
cmake --build . --config Release -- /m
相关推荐
糖果店的幽灵16 小时前
langgraph的 MessagesState 解读
java·开发语言·人工智能·windows·langgraph
骑上单车去旅行17 小时前
MD5校验对比脚本
linux·服务器·windows
FreeBuf_19 小时前
Windows NT OS内核提权漏洞PoC已公开
windows
雲帝20 小时前
Windows虚拟机UDP大包分片排障
windows·网络协议·udp
李少兄21 小时前
Windows 键盘快捷键指南
windows·计算机外设·快捷键
寒水馨21 小时前
Windows下载、安装scrcpy-v4.1(附安装包scrcpy-win64-v4.1.zip)
windows·scrcpy·投屏工具·安卓投屏·usb调试·android投屏·屏幕镜像
神仙别闹1 天前
基于QT(C++)实现Windows 自启动项查看和分析
c++·windows·qt
love530love1 天前
OpenClaw Windows Companion 桌面客户端 连接 LM Studio 完整配置指南
人工智能·windows·python·openclaw
光年像素2 天前
Windows Win+R 运行框常用快捷命令大全
windows
寒水馨2 天前
Windows下载、安装ollama-v0.32.1(附安装包OllamaSetup.exe)
windows·llm·大语言模型·llama·本地部署·ollama·模型运行