3月23日直播丨HiF8高效数据格式及其应用

Ascend 950支持HiFloat8数据格式,这是面向AI大模型训推的新一代8位浮点数据格式。创新采用动态点位域与即时可译变长前缀码设计,突破传统FP8精度与动态范围瓶颈,阶码范围接近16位浮点,大幅减少数值溢出。

本议题聚焦HiFloat8数据类型的技术细节、CANN软件栈支持新格式的算子和工具及其在训推模型的亮眼表现,深度揭示支持HiFloat8这种新的数据格式的重要性和必要性。

B站直播预约链接:点击预约

相关推荐
昇腾CANN4 天前
3月18日直播丨场景驱动,精准选型:Ascend 950算子编程语言如何抉择
昇腾·cann
是Yu欸8 天前
【CANN】Pi0机器人大模型 × 昇腾A2 测评
机器人·大模型·华为snap·gitcode·昇腾·vla
newBorn_19911 个月前
ops-transformer RoPE位置编码 复数旋转硬件加速实战
人工智能·深度学习·transformer·cann
七夜zippoe1 个月前
与vLLM对比 Ascend Transformer Boost吞吐延迟显存实测数据解读
neo4j·cann
艾莉丝努力练剑1 个月前
CANN hcomm 通用通信抽象层的后端插件化架构
架构·cann
昇腾CANN1 个月前
2月12日直播 | CANN算子一站式开发平台全面公测
昇腾·cann
艾莉丝努力练剑1 个月前
CANN hcomm 对 RDMA 与 Socket 传输协议的统一封装
人工智能·cann
种时光的人1 个月前
破译 GE 库:CANN 图编译引擎的“大脑”与“交通枢纽”
cann
种时光的人1 个月前
探秘 CANN 的 hixl 库:让跨语言高性能交互如丝般顺滑
microsoft·交互·cann