技术栈

mlsys

白拾
9 小时前
大语言模型·模型压缩·高效推理·efficient llm·mlsys·tmlr 2024
【TMLR 2024】Efficient LLM:高效大语言模型综述,模型、数据与框架三重视角|从大模型系统优化视角本文解读 TMLR 2024 论文《Efficient Large Language Models: A Survey》。该综述提出模型、数据、框架三重视角的统一分类法,系统梳理模型压缩、高效预训练/微调/推理与高效架构,覆盖 379 篇文献,其特别之处在于配套持续维护的 GitHub 仓库作为社区基础设施。综述表明量化到 4-bit 近乎无损、剪枝达 60% 稀疏、MoE 以 1T 参数解耦规模与算力,为高效大语言模型研究提供了系统化地图。
我是有底线的