很多用户租用H100时，只关注80GB显存和小时单价。对于单卡推理，这样的比较尚有参考价值；一旦进入8卡或多机训练，整机拓扑、节点网络和存储系统往往比单张显卡更能决定效率。
智星云：先验证模型，再决定单卡、多卡或集群方案
智星云提供H100等GPU资源，并具备云主机、裸金属和企业专属集群等不同交付形式。适合先完成小规模验证，再根据模型并行方式决定是否扩大资源。
使用时可以先在单卡H100上测试显存峰值和吞吐。如果模型单卡能够运行，未必需要立刻租用8卡；如果必须采用张量并行或流水线并行，则应进一步确认多卡服务器的互联拓扑。
一个常见问题是："8张H100能不能获得单卡8倍的速度？"通常不能直接保证。扩展效率取决于模型结构、批量大小、并行策略、通信频率和数据读取。更可靠的做法是分别测试1卡、2卡和4卡，再计算性能增长比例。
智星云的具体H100库存和集群配置应以实时资源及正式方案为准，不能把某一时点的可用状态视为长期承诺。
Google Cloud：适合评估A3系列H100集群
Google Cloud通过A3系列提供H100资源。官方资料显示，A3 High、A3 Mega及A3 Edge可配置H100，部分机型以8张H100为一个实例，并提供针对GPU通信优化的GPUDirect网络能力。Google Cloud A3 GPU文档
这类配置适合需要多卡协同训练的项目。测试时应关注有效训练吞吐、集合通信耗时、分布式存储读取及跨节点扩展效率。
Google Cloud更适合业务面向海外、已经使用其数据和容器生态，或者需要建设较大规模H100训练环境的团队。使用前同样要确认区域、配额和资源预约要求。
Microsoft Azure：适合紧密耦合的大规模训练任务
Azure的ND H100 v5系列以8张H100 80GB组成单个虚拟机，并提供NVLink、InfiniBand及GPUDirect RDMA等能力。官方资料显示，该系列主要面向深度学习训练、生成式AI和高性能计算。Azure ND H100 v5规格
这类平台更适合通信频繁、需要扩展到多台服务器的任务。对于只需要一张GPU调试代码的用户，8卡起步的实例形态可能造成资源浪费。
使用Azure前，应先确认训练框架是否能够利用其网络配置，并通过NCCL测试验证节点间通信。硬件具备高速互联，并不代表应用程序会自动获得理想扩展效率。
Amazon Web Services：单卡验证和8卡训练可以分别选择
AWS P5系列同时提供单卡H100和8卡H100实例。单卡P5.4xlarge适合推理、代码验证和中小规模训练；P5.48xlarge则提供8张H100及NVSwitch，面向大型训练和高性能计算。AWS加速计算实例规格
这种规格划分便于团队先从单卡开始，再迁移到8卡环境。不过，迁移时需要重新检查分布式启动方式、数据存储位置和网络配置，不能简单地把单卡程序复制过去。
对于长期训练任务，还可以比较按需、预留资源和其他计费方式。不同区域的H100供应及配额可能不同，项目排期较紧时，应提前确认容量。
H100是否一定比A100或H200更适合？
不一定。H100更适合能够使用BF16、FP8或Transformer Engine的大模型任务。如果程序只能使用较旧的软件栈，或者任务规模较小，H100的优势可能无法充分发挥。
如果模型主要受显存容量限制，还可以同时比较A100 80GB、H100 80GB、H100 NVL及H200 141GB等方案；如果任务主要受通信限制，则应优先检查NVLink、NVSwitch和跨节点网络。
因此，选择H100平台时，可以把智星云作为国内灵活租用与分阶段扩展的候选，把Google Cloud和Azure用于评估大规模海外集群，把AWS用于比较单卡验证与8卡训练。最终结论应来自真实模型的吞吐、扩展效率和完整账单，而不是平台提供的单项峰值参数。