ASTRA-sim 3.0:通过高保真GPU和基础设施建模进行下一级分布式机器学习模拟回到arXiv分布式机器学习(ML)是当今大规模人工智能应用的关键范式。随着模型推理成为一个重要的用例,延迟敏感的集体通信的忠实建模从未如此重要。因此,在今天,以高保真度捕获设备架构和建模控制和数据路径是必要的。为分布式ML基础设施提供一个共同的、详细的表示也至关重要。我们重温了有前途的开源、社区驱动的模拟器:ASTRA-sim。在这项工作中,我们确定了当前ASTRA-sim模拟器的局限性,并用新功能增强了它。为此,我们通过标准化的基础设施表示实现精细、高保真模拟,开辟了新的设计空间探索机会。我们建议以缓