技术栈
pd 分离
百度智能云技术站
6 小时前
模型推理
·
deepseek
·
pd 分离
·
hpn
PD 分离推理的加速大招，百度智能云网络基础设施和通信组件的优化实践
为了适应 PD 分离式推理部署架构，百度智能云从物理网络层面的「4us 端到端低时延」HPN 集群建设，到网络流量层面的设备配置和管理，再到通信组件和算子层面的优化，显著提升了上层推理服务的整体性能。