技术栈
roce v2
新兴ICT项目支撑
5 天前
vllm
·
deepseek r1
·
sglang
·
l20
·
集群推理
·
roce v2
2台8卡L20服务器集群推理方案
物理连接：2台服务器、每台2张CX4网卡（4个25GbE端口），背靠背直连 逻辑配置：每台服务器创建一个bond0接口，聚合所有物理端口 链路模式：balance-xor模式，采用layer3+4散列策略 MTU设置：9000字节（巨型帧）提升大包传输效率