技术栈
异常值
Luchang-Li
1 个月前
llm
·
量化
·
异常值
·
激活
突破性技术: 大语言模型LLM量化激活outliers异常值抑制
LLM过去有两种突破性技术大大提升了量化精度,分别是group-wise量化和GPTQ/AWQ量化。前者相比于过去的per-tensor和per-channel/per-axis量化提出了更细粒度的对channel拆分为更小单元的量化方式,后者通过巧妙的算法明显提升了4bit量化的精度。
数据科学知识库
7 个月前
matplotlib
·
数据可视化
·
折线图
·
seaborn
·
散点图
·
异常值
·
离群值
数据可视化---离群值展示
友情提示:如果你觉得这个博客对你有帮助,请点赞、评论和分享吧!如果你有任何问题或建议,也欢迎在评论区留言哦!!!