l20

新兴ICT项目支撑1 个月前
vllm·deepseek r1·sglang·l20·集群推理·roce v2
2台8卡L20服务器集群推理方案物理连接：2台服务器、每台2张CX4网卡（4个25GbE端口），背靠背直连 逻辑配置：每台服务器创建一个bond0接口，聚合所有物理端口 链路模式：balance-xor模式，采用layer3+4散列策略 MTU设置：9000字节（巨型帧）提升大包传输效率