Ascend 950支持HiFloat8数据格式，这是面向AI大模型训推的新一代8位浮点数据格式。创新采用动态点位域与即时可译变长前缀码设计，突破传统FP8精度与动态范围瓶颈，阶码范围接近16位浮点，大幅减少数值溢出。
本议题聚焦HiFloat8数据类型的技术细节、CANN软件栈支持新格式的算子和工具及其在训推模型的亮眼表现，深度揭示支持HiFloat8这种新的数据格式的重要性和必要性。
B站直播预约链接：点击预约
相关推荐
handsomestWei2 天前
华为昇腾DeepSeek模型部署昇腾CANN8 天前
4月3日直播丨CANNBot发布：畅享算子开发新体验摘星编程13 天前
开源力量：GitCode+昇腾NPU 部署Mistral-7B-Instruct-v0.2模型的技术探索与经验总结昇腾CANN13 天前
HIXL快速适配NIXL昇腾后端昇腾CANN18 天前
3月24日直播丨HCCL集合通信专用引擎CCU技术介绍昇腾CANN24 天前
3月18日直播丨场景驱动，精准选型：Ascend 950算子编程语言如何抉择是Yu欸1 个月前
【CANN】Pi0机器人大模型 × 昇腾A2 测评newBorn_19912 个月前
ops-transformer RoPE位置编码 复数旋转硬件加速实战七夜zippoe2 个月前
与vLLM对比 Ascend Transformer Boost吞吐延迟显存实测数据解读