llama-gguf-split.exe下载
https://github.com/ggerganov/llama.cpp/releases
下载vulkan win64版本，解压后，把目录添加到环境变量
进入大模型文件目录，运行命令行：
llama-gguf-split.exe --merge qwen2.5-coder-7b-instruct-q4_k_m-00001-of-00002.gguf qwen2.5-coder-7b-instruct-q4_k_m.gguf
相关推荐
~远在太平洋~8 小时前
大模型评测框架 OpenCompass 本地部署保姆级教程：从安装到跑通 C-Eval 基准（含依赖冲突修复与判分避坑）程序猿编码3 天前
告别 GPU 空转！token 级调度，Qwen/Llama 高并发推理引擎还卿一钵无情泪5 天前
PEFT-Transformers、Unsloth、LLaMA-Factory 微调框架 横向对比程序猿编码5 天前
不依赖 vLLM/llama.cpp：一套面向学习的 DeepSeek-R1 CUDA 推理实现天燹6 天前
本地部署大模型ollama骑着蜗牛撵大象3277 天前
N1 小盒子撑起 AI 接口中转层：New-API 接管本地 Ollama，用 Token 分发模型能力言简行敏，心静致远。8 天前
llama-bench使用说明及其应用AI_Gump8 天前
模型篇｜llama.cpp 推理引擎深度解读：从一人练手到 LLM 端侧的事实标准星野云联AIoT技术洞察11 天前
设备手册离线 RAG：先管住版本、权限和引文，再谈本地大模型晚风吹北巷13 天前
基于LLama-Factory 进行Lora微调