hpn

百度智能云技术站13 天前
ai infra·hpn·ai 集群网络·ai 网络·hpn 负载均衡
如何把 HPN 多平面的带宽，真正转化为 AI 任务的通信效率？在大规模 AI 集群建设里，HPN 多平面组网正被越来越多地采用。它通过多网卡/多端口、多组交换机，构建多个并行转发的网路平面，让同一通信任务可以跨平面分散传输。它一方面能扩大组网规模、缩短通信路径、降低时延；另一方面，多平面之间天然形成物理隔离的冗余路径，故障时可以快速切换。
百度智能云技术站1 年前
模型推理·deepseek·pd 分离·hpn
PD 分离推理的加速大招，百度智能云网络基础设施和通信组件的优化实践为了适应 PD 分离式推理部署架构，百度智能云从物理网络层面的「4us 端到端低时延」HPN 集群建设，到网络流量层面的设备配置和管理，再到通信组件和算子层面的优化，显著提升了上层推理服务的整体性能。
我是有底线的