华为云,一切皆服务
共建智能世界云底座
面向未来的智能世界,数字化是企业发展的必由之路。数字化成功的关键是以云原生的思维践行云原生,全数字化、全云化、AI驱动,一切皆服务。华为云将持续创新,携手客户、合作伙伴和开发者,致力于让云无处不在,让智能无所不及,共建智能世界云底座。
昇腾云服务
昇腾云服务提供了高性价比的AI算力,提供全链路云化工具链,新增CloudMatrix384的新一代昇腾AI算力,支持高效迁移,全栈垂直优化,提供高性能、高可靠的超节点集群,支持模型/算法高效运行,使能"百模千态"应用快速落地。
昇腾云服务产品架构

架构创新特性介绍

|---------------------------------------------------------------------------|
| 全新超节点架构算力底座 支持最大支持16万卡集群,用高速总线互联替代传统以太,通信带宽提升15倍,通信时延降低10倍 |
| AI数据加速更快 支持EMS服务,跨节点共享KV缓存,大幅降低首Token时延。支持SFS Turbo服务,实现AI数据加载速度提升10倍 |
| 大规模集群性能更高 超节点+大规模专家并行的技术,支持单卡性能提升近4倍,支持一卡一专家分布式推理部署,相较于非超节点推理性能提升4X |
| 资源利用率提升 支持朝推夜训,通过训推共池,训练资源池和推理资源池资源灵活调度,实现资源利用提升30%以上 |