3月24日直播丨HCCL集合通信专用引擎CCU技术介绍

在AI计算集群规模持续扩大的背景下,集合通信效率成为影响系统整体性能的关键因素。集合通信处理器(CCU)是昇腾NPU中用于加速集合通信任务的专用协处理器,其主要目标是解决传统通信方式中性能瓶颈,提升整体系统性能。

关键组成部分

  1. CCUM和CCUA单元

    • CCUM:控制单元,解析任务描述符并执行通信任务。

    • CCUA:数据处理单元,处理数据传输和规约。

  2. 基本构成单元

    • Memory Slice (MS):4KB片上缓存。

    • Gather Scatter Address (GSA):存储内存地址的寄存器。

    • General Purpose Register (Xn):存储数据长度和循环控制信息。

    • Checklist Entry (CKE):16bit同步寄存器,用于NPU间同步。

功能特性亮点

CCU支持完整的指令集 ,包括加载、运算、控制、同步、传输和规约等操作类型,能够高效完成集合通信任务。在典型应用场景中,Reduce操作 通过降低读写次数,解决规约确定性和精度损失问题;Broadcast操作支持

B站直播预约链接:点击预约

相关推荐
昇腾CANN2 天前
基于 PyPTO 与 Agent,2周完成模型 QAT 算子开发与优化
人工智能·昇腾·cann
昇腾CANN6 天前
昇腾软件说系列直播预告 | 7月28日19:00,昇腾算子编程专场
昇腾·cann
网络工程小王7 天前
【HCIE-AI】11.模型 昇腾迁移适配-精度调试-性能调优
人工智能·学习·华为·迁移学习·昇腾
网络工程小王8 天前
【HCIE-AI】12.deepspeed分布式并行训练进阶版
人工智能·pytorch·分布式·学习·昇腾·deepspeed
昇腾CANN9 天前
昇腾软件说系列直播预告|7月27日19:00,昇腾算力环境专场
昇腾·cann
七夜zippoe12 天前
深入解析CANN仓库中的HCCL分布式通信库
pytorch·分布式·cann·hccl·通信库
高级打杂工程师-伍六六25 天前
【昇腾】本地 27B 编程模型接入 Claude Code 实战:Qwopus3.6-27B-Coder 在 vLLM-Ascend 上的部署与踩坑
昇腾·npu·vllm·claude code
ujainu小2 个月前
CANN ops-nn:新增一个自定义激活函数算子的完整流程
算子·cann
昇腾CANN2 个月前
【cann-samples系列】GroupedMatmul MX量化矩阵乘的深度性能优化实践
线性代数·性能优化·矩阵·昇腾·cann
luozhen1102 个月前
CANN AMCT模型压缩工具链全貌解析:从训练后量化到稀疏剪枝的昇腾NPU部署管线——INT8/INT4混合精度量化策略与精度损耗诊断实录详解报告
cann