你的 RTX 5060 Ti 依然属于 Ada Lovelace 架构 (消费级 GPU),和 RTX 5060 类似,它 没有 Hopper 架构的 FP8 Tensor Core。
FP8 张量运算目前 只在 NVIDIA Hopper GPU(H100)和部分 A100 Tensor Core 上得到硬件支持。
各代 GPU 精度支持总结:
| 架构 / 系列 | FP32 | FP16 | BF16 | INT8 | FP8 |
|---|---|---|---|---|---|
| 30 系 (Ampere, 3060/3070/3080/3090) | ✅ | ✅ | ❌(需要模拟) | ✅ | ❌ |
| 40 系 (Ada Lovelace, 4060/4070/4080/4090) | ✅ | ✅ | ❌(模拟) | ✅ | ❌ |
| 50 系 (Ada Lovelace 消费级, 5060/5060 Ti) | ✅ | ✅ | ❌ | ✅ | ❌ |
| 100 系 (Hopper, H100) | ✅ | ✅ | ✅ | ✅ | ✅ |