小语言模型SLM崛起_Phi_Gemma端侧部署摘要:SLM(Small Language Model,小语言模型)的价值不是全面超过大模型,而是在成本、延迟、隐私、本地部署和任务可控性上更适合。Phi、Gemma 等小模型路线提醒我们:高质量数据、蒸馏、明确任务边界、量化、RAG、工具调用和大小模型协同,可以让小模型在很多场景中“足够好”。本文会从端侧约束讲起,解释小模型为什么有用、如何估算权重和 KV Cache 内存、量化会带来什么取舍、SLM+RAG 如何设计、大小模型如何路由,以及什么时候不该用小模型。