摩尔线程开源四大通信库 构建完整MUSA通信栈

近日,摩尔线程开源了MTGDRCopy、MTSHMEM、MCCL和MT DeepEP四个通信库 ,覆盖显存访问、对称共享内存通信、多GPU与多节点集合通信、MoE专家并行等通信场景,形成覆盖底层访问到专家并行的完整通信栈。

GPU通信库衔接计算设备、互联网络与上层AI框架,是构建高效分布式AI训练与推理系统的重要基础。此次开源开放了核心通信能力和工程实现,进一步完善了MUSA通信软件栈。开发者可通过开源仓库获取源码、理解通信路径,便于完成验证与集成。

▼ 功能覆盖更完整

四个通信库分别覆盖不同抽象层次的通信需求。通信能力从主机---显存数据访问、进程间通信、集合通信扩展到专家并行,为MUSA应用提供更完整的选择空间。

▼ 性能路径更贴近硬件

开发者可以围绕实际GPU拓扑、网络配置和数据依赖进行调优,充分利用GPU互联和网络能力参与通信决策。

▼ 使用和协作更直接

此次开源同步提供源码、构建安装说明、示例和测试工具,可以帮助开发者快速完成编译、验证、集成和性能调优。

MTGDRCopy: 面向小消息低延迟的显存直访

MTGDRCopy面向小数据量、低延迟通信场景,将GPU显存映射到CPU用户态地址空间,支持主机低延迟直接访问显存。此次开源内容包括内核模块、用户态库和测试程序,开发者可通过公开仓库获取源码,完成构建、运行与功能验证。

在能力层面,MTGDRCopy针对小消息H2D写入提供写合并路径,适用于需要频繁交换小规模数据的计算环节。

▼ MTGDRCopy开源仓库

https://github.com/MooreThreads/mtgdrcopy

MTSHMEM: 面向多进程与多节点的对称共享内存通信

MTSHMEM面向多进程、多节点GPU作业,提供基于PGAS模型的单边通信、同步、原子操作和集合通信能力。此次开源内容包括源码构建、示例和perftest测试工具,开发者可据此完成MTSHMEM功能的验证与性能测试。

在通信路径上,MTSHMEM支持节点内P2P、节点间远程传输以及GPU发起的IB通信,适用于多进程协作的分布式作业。

▼ MTSHMEM开源仓库

https://github.com/MooreThreads/mtshmem

MCCL: 面向多GPU与多节点的 拓扑感知集合通信

MCCL是面向单机及跨节点多GPU场景的高性能通信库,提供集合通信、点对点通信与远程内存访问能力,结合拓扑感知、通信路径优化和计算通信重叠,为分布式训练、推理及高性能计算提供高效通信支撑。MCCL提供多种打包方式及mccl-tests测试入口,便于开发者在不同部署环境下完成构建与验证。

在通信覆盖上,MCCL支持PCIe、MTLink和InfiniBand等通信路径,适用于多种互联方式并存的多GPU与多节点部署环境。

▼ MCCL开源仓库

https://github.com/MooreThreads/mccl

MT DeepEP: 面向MoE专家并行的通信加速

MT DeepEP面向MoE模型专家并行,提供dispatch/combine通信能力,覆盖训练、Prefill和Decode等场景。MT DeepEP提供MUSA版本安装脚本、快速开始示例和验证脚本,帮助开发者完成编译、验证与集成。

在实现层面,MT DeepEP将MTLink、RDMA、MTSHMEM和IBGDA组合到MoE专家并行路径中,完成专家之间的token分发与结果合并,适用于MoE模型在训练与推理阶段的专家并行部署。

▼ MT DeepEP开源仓库

https://github.com/MooreThreads/MT-DeepEP

开放共建MUSA通信软件生态

摩尔线程此次开源的四个通信库各有分工,可在分布式AI软件栈中协同工作:MTGDRCopy和MTSHMEM提供底层显存与远程通信能力,MCCL提供通用集合通信能力,MT DeepEP则面向MoE工作负载封装专家并行通信流程。四库协同后,开发者可在同一软件栈内完成从显存访问到专家并行的通信调用,并按业务场景选择对应的通信库。

开源的价值不仅在于代码可见,也在于让更多开发者能够理解通信路径、复现问题、提出改进,并将优化经验反馈到更广泛的应用场景。欢迎开发者通过开源仓库了解实现细节、运行示例和测试工具,并通过Issues等渠道反馈使用问题。

未来,摩尔线程将持续完善MUSA平台的通信能力,加强与编译器、运行时、分布式框架和AI应用的协同演进,携手开发者、合作伙伴和开源社区,共同推进MUSA通信生态的繁荣发展。

相关推荐
冬奇Lab1 天前
开源项目第258期:Harness² —— Google Research 的「递归式 Agent Harness 优化」,模型权重不动,只改 Agent 的外壳
人工智能·开源
黎羽_1 天前
《开源 PR 实战》系列(三):22 个 PR 之后,批量提 PR 的打法
开源·github·代码评审·pull request·协作
Hone1 天前
juejin-skills 系列 ②:我把「看掘金热榜」也做成了 Agent 技能
开源·node.js·ai编程
fthux1 天前
总想着“忙完再休息”?让 Tick Rest 提醒你,先歇一会儿
开源·github·mac·swift·提醒·消息提醒·tick rest·tick rest for mac·消息提醒app
SL_staff1 天前
企业AI落地难?JVS-AI渐进式实践:安全可控、小切口验证、标准化沉淀与规模化复制
java·开源·aigc
一知半解仙1 天前
乌镇2026:当“智能互联网”第一次被数据照进现实
人工智能·物联网·机器人·开源
复杂网络与机器学习1 天前
数学建模七件武器:把现实翻译成能算的模型,再证明它靠得住
数学·开源
梯度下降者1 天前
软硬件开源!一套物联网监测平台
物联网·开源·边缘计算·农业·双端管理
奶油话梅糖2 天前
快过 IDM 5 倍、开源免费:4,200 Star 的 Rust 下载器用 7 组对照实验“单挑“行业老大
rust·开源·idm