int8量化 - int8量化技术,学习,经验文章

阿钱真强道

4 小时前

08 YOLOv8检测头对INT8敏感的深度拆解——从直觉到数学证明一句话总结：检测头对INT8敏感的真实原因不是方差小，而是长尾分布（90%背景小值+10%目标大值）。σ=0.05的纯高斯分布下INT8也能保持0.9999的余弦相似度，但长尾分布下小值区域的相对误差高达4.1%（Backbone仅1.05%）。量化不怕整体缩小，怕的是有的地方缩得多、有的地方缩得少。