3月23日直播丨HiF8高效数据格式及其应用

Ascend 950支持HiFloat8数据格式,这是面向AI大模型训推的新一代8位浮点数据格式。创新采用动态点位域与即时可译变长前缀码设计,突破传统FP8精度与动态范围瓶颈,阶码范围接近16位浮点,大幅减少数值溢出。

本议题聚焦HiFloat8数据类型的技术细节、CANN软件栈支持新格式的算子和工具及其在训推模型的亮眼表现,深度揭示支持HiFloat8这种新的数据格式的重要性和必要性。

B站直播预约链接:点击预约

相关推荐
xiaoqi9222 小时前
Python 高手编程系列四百九十三:何时应该使用多线程
cann
czhm573 小时前
CANN技术解读|metadef元数据结构与模型定义规范——深度解析昇腾CANN计算架构中基础数据层的核心设计
cann
czhm575 小时前
CANN架构解析|GE图编译引擎核心原理与优化策略:深度剖析图编译技术在异构计算中的应用与实践
cann
zjun30215 小时前
【昇腾950 cv融合算子体验】L0C Buffer到UB的单向数据通路
cann·融合算子·昇腾950
luozhen11019 小时前
ops-math昇腾数学算子库深度解析:高性能数值计算与算法实现完全指南
cann
czhm5720 小时前
title: FFT离散傅里叶变换算子深度解读:频域计算的昇腾NPU加速
cann
wilbur168821 小时前
ops-transformer大模型算子库架构深度解析:FlashAttention与MoE算子实现原理及性能优化实践
cann
wilbur16881 天前
昇腾CANN运行时系统架构剖析:设备管理与任务调度的核心机制深度解读
cann
luozhen1101 天前
HCCL昇腾集合通信库深度解读:AllReduce原理与分布式训练性能优化实战
cann
wilbur16881 天前
多设备协同计算深度实战:昇腾NPU集群编程与资源调度完全指南
cann