fp8 量化笔记

你的 RTX 5060 Ti 依然属于 Ada Lovelace 架构 （消费级 GPU），和 RTX 5060 类似，它 没有 Hopper 架构的 FP8 Tensor Core。

FP8 张量运算目前 只在 NVIDIA Hopper GPU（H100）和部分 A100 Tensor Core 上得到硬件支持。

各代 GPU 精度支持总结：

架构 / 系列	FP32	FP16	BF16	INT8	FP8
30 系 (Ampere, 3060/3070/3080/3090)	✅	✅	❌（需要模拟）	✅	❌
40 系 (Ada Lovelace, 4060/4070/4080/4090)	✅	✅	❌（模拟）	✅	❌
50 系 (Ada Lovelace 消费级, 5060/5060 Ti)	✅	✅	❌	✅	❌
100 系 (Hopper, H100)	✅	✅	✅	✅	✅