简介
InfiniBand网卡的核心作用,就是为高性能计算(HPC)和 人工智能(AI)等场景,提供一条超高速度、极低延迟且极其稳定的数据"高速公路"。
它主要用来解决大数据量、高并发计算任务中的网络瓶颈问题,具体体现在这几个方面:
⚙️ 核心使命:为"极致计算"搭建"高速专线"
与传统网卡相比,InfiniBand网卡是为将成千上万台服务器连接成一个超级计算机而生的。它的厉害之处在于,能确保大规模并行计算任务高效协同,不会因为网络慢而"卡住"。具体通过几个关键技术实现:
- 让数据"零拷贝"直达(RDMA技术) :这是InfiniBand的看家本领。它允许数据直接从一台服务器的内存,传输到另一台服务器的内存,完全绕过CPU。这既节省了CPU资源,也把数据传输延迟降到了极致,在高性能计算模拟中,甚至能将CPU利用率从70%降至20%。
- 打造"无损"网络:普通网络(如以太网)有时会丢包,一丢包就得重传,会导致延迟剧增。InfiniBand网络通过硬件级的信用流控,从根源上避免了数据包丢失,确保了传输的稳定性和可预测性。
- 支持GPU直连(GPUDirect):在AI训练中,它支持GPU之间的数据直接通信,无需绕道CPU或系统内存,大幅加速了多GPU、多服务器集群的训练速度。
🚀 应用舞台:顶级的超算与AI数据中心
因为拥有这些特长,InfiniBand网卡基本是顶级超级计算机 和大型AI数据中心 的标配,用它来连接成千上万个计算节点(CPU和GPU)。其最新的产品速度已经达到惊人的 800 Gb/s。
💡 形象理解
打个比方,如果用普通网卡 连接服务器,就像在城市普通道路上跑运输,车多路窄,还时常堵车(丢包、延迟高)。而用InfiniBand网卡 ,就像是修建了一条专属的、多条车道的、信号灯全自动优化的高铁网络,能让海量数据在服务器之间高速、准时、不堵车地飞驰。
安装
bash
# Download the latest release for your architecture
# For x86_64:
wget https://github.com/JannikSt/ibtop/releases/latest/download/ibtop-linux-amd64
# For arm64:
wget https://github.com/JannikSt/ibtop/releases/latest/download/ibtop-linux-arm64
chmod +x ibtop-linux-*
sudo mv ibtop-linux-* /usr/local/bin/ibtop

吞吐

数据包

错误
