3月23日直播丨HiF8高效数据格式及其应用

Ascend 950支持HiFloat8数据格式,这是面向AI大模型训推的新一代8位浮点数据格式。创新采用动态点位域与即时可译变长前缀码设计,突破传统FP8精度与动态范围瓶颈,阶码范围接近16位浮点,大幅减少数值溢出。

本议题聚焦HiFloat8数据类型的技术细节、CANN软件栈支持新格式的算子和工具及其在训推模型的亮眼表现,深度揭示支持HiFloat8这种新的数据格式的重要性和必要性。

B站直播预约链接:点击预约

相关推荐
大数据在线12 小时前
AI计算新生态:旧地图找不到新大陆
cuda·昇腾·cann·英伟达·deepseek
昇腾CANN1 天前
TileLang-Ascend 算子性能优化方法与实操
开发语言·javascript·性能优化·昇腾·cann
嵌入式小企鹅2 天前
CPU供需趋紧、DeepSeek V4全链适配、小米开源万亿模型
人工智能·学习·开源·嵌入式·小米·算力·昇腾
是Yu欸3 天前
SGLang 推理服务基础性能评测
android·数据库·大模型·github·昇腾·sglang·qwen3
昇腾CANN3 天前
4月28日直播丨基于TorchTitan的DeepSeek-V4昇腾续训练优化实践
人工智能·昇腾·cann·deepseek
x_lrong5 天前
昇腾Ascend环境微调部署Qwen3(LlamaFactory+vLLM-Ascend)
微调·部署·昇腾·ascend·llamafactory·qwen3·vllm-ascend
昇腾CANN5 天前
【DeepSeek-V4昇腾首发系列干货】NPU DeepSeek-V4推理优化实践
人工智能·昇腾·cann·deepseek
昇腾CANN7 天前
CANN NEXT系列干货:CANN算子开发体验升级
人工智能·昇腾·cann
Zain Lau8 天前
华为昇腾310P废物利用——大模型推理服务
人工智能·昇腾·310p·华为昇腾推理芯片
嵌入式小企鹅8 天前
Kimi K2.6开源对标GPT-5.4、英飞凌AURIX拥抱RISC-V、工信部定调太空算力
人工智能·学习·开源·嵌入式·模型·半导体·昇腾