llama-gguf-split.exe下载
https://github.com/ggerganov/llama.cpp/releases
下载vulkan win64版本，解压后，把目录添加到环境变量
进入大模型文件目录，运行命令行：
llama-gguf-split.exe --merge qwen2.5-coder-7b-instruct-q4_k_m-00001-of-00002.gguf qwen2.5-coder-7b-instruct-q4_k_m.gguf
相关推荐
skywalk816310 小时前
在Ubuntu Linux安装brew 使用brew安装llama.cpp 运行文心Ernie大模型七宝大爷1 天前
大模型是什么？从 GPT 到 LLaMA 的核心概念解析倔强的石头1062 天前
昇腾NPU运行Llama模型全攻略：环境搭建、性能测试、问题解决一网打尽码农阿豪3 天前
在昇腾NPU上跑Llama 2模型：一次完整的性能测试与实战通关指南Qiuner3 天前
快速入门LangChain4j Ollama本地部署与阿里百炼请求大模型辣大辣条4 天前
LLAMA-Factory Qwen3-1.7b模型微调我狸才不是赔钱货4 天前
AI大模型“战国策”：主流LLM平台简单介绍临街的小孩6 天前
Docker 容器访问宿主机 Ollama 服务配置教程鸿蒙小白龙6 天前
OpenHarmony平台大语言模型本地推理：llama深度适配与部署技术详解AI大模型9 天前
轻松搞定百个大模型微调！LLaMA-Factory：你的AI模型量产神器