linux 系统运维技术实践 - linux 系统运维技术实践技术,学习,经验文章

lyshark

3 小时前

Ubuntu 大模型HF转GGUF全流程实践指南本文基于 Ubuntu 26.04 系统、纯CPU无CUDA硬件环境，完整演示基于 llama.cpp 实现 HF 原始模型转换 GGUF 格式与CPU量化的落地实操流程。以 Qwen2-0.5B-Instruct 中文对话模型为案例，循序渐进讲解Swap分区配置、系统依赖安装、llama.cpp源码编译、Python虚拟环境部署、原生HF模型下载、HF模型转GGUF格式封装、Q4_K_M等级量化的完整步骤。