AI芯片家族与产品目录指南
NVIDIA、AMD、Intel与Qualcomm
本文分别介绍NVIDIA、AMD、Intel和Qualcomm的AI芯片家族，覆盖计算核心、内存、互连、软件、精度、功耗、部署和选型，并为每家公司列出代表性产品和特征表。
产品表是代表性产品家族和常见产品，不保证穷尽全部SKU。名称、代际、规格、供货和软件支持会变化，采购前应核实当前官方资料。
图1：芯片家族能力轮廓示意，数值不代表正式基准结果。
|--------------|---------|--------------|----------------|----------|
| 公司 | 方向 | 典型适配 | 优势领域 | 工程重点 |
| NVIDIA | 加速平台 | 数据中心和边缘 | GPU、网络、软件 | 功耗、供货、生态 |
| AMD | 异构计算 | 数据中心、工作站、嵌入式 | CPU/GPU、内存、自适应 | 内核和平台成熟度 |
| Intel | CPU中心异构 | 企业、边缘、数据中心 | CPU、加速器、x86机群 | 工作负载和能效 |
| Qualcomm | 高能效边缘 | 移动、汽车、IoT | SoC、NPU、连接 | 热和模型转换 |
表1：四大芯片家族概览。
1. NVIDIA产品家族
NVIDIA AI硬件生态结合加速设备、高速网络、软件库、编译器、模型框架、服务系统和云边缘平台。产品通常需要作为系统评估，因为内存、互连和软件决定应用能获得的有效性能。
|-----------------|--------------------|------------------|
| 产品/家族 | 类别 | 特征和代表性适配 |
| H100 | 数据中心GPU | 训练和推理；高带宽内存与张量加速 |
| H200 | 数据中心GPU | 大模型推理和内存密集型负载 |
| B100/B200 | Blackwell数据中心GPU家族 | 新一代训练、推理和大规模吞吐 |
| GB200 NVL系统 | GPU-CPU超级芯片平台 | 面向大模型的紧耦合加速计算 |
| L40S | 数据中心GPU | 推理、可视化和混合企业负载 |
| A100 | 通用数据中心GPU | 深度学习和HPC加速 |
| Jetson平台 | 嵌入式边缘AI | 机器人、视觉、传感器和低延迟推理 |
| Grace CPU家族 | Arm数据中心CPU | 主机处理和异构AI系统 |
表2：NVIDIA代表性AI产品与特征，不是完整目录。
数据中心加速器要评估训练吞吐、推理并发、内存容量、分布式通信和软件内核覆盖。GPU-CPU组合和集成网络可以减少数据移动；边缘平台则强调延迟、传感器和部署约束。
2. AMD产品家族
AMD覆盖服务器CPU、GPU、数据中心加速器、工作站GPU和自适应/嵌入式产品。关键问题是目标模型如何映射到加速器软件栈，以及完整CPU加速器系统在真实批量、内存和通信条件下的表现。
|----------------------|------------|-----------------|
| 产品/家族 | 类别 | 特征和代表性适配 |
| Instinct MI300X | 数据中心加速器 | 大模型训练和高内存推理 |
| Instinct MI300A | APU式加速器 | CPU-GPU异构计算和HPC |
| Instinct MI325X | 数据中心加速器家族 | 内存密集型生成式AI和推理 |
| Instinct MI350系列 | 新一代加速器家族 | 大规模AI和高性能计算 |
| EPYC CPU家族 | 服务器CPU | 主机处理、数据准备和通用计算 |
| Radeon PRO | 专业GPU | 工作站可视化和本地AI |
| Ryzen AI | 客户端AI处理器家族 | PC和边缘端侧AI |
| Versal自适应SoC | 自适应/嵌入式计算 | 工业、通信和实时加速 |
表3：AMD代表性AI产品与特征，不是完整目录。
AMD部署应测量编译器、算子覆盖、内存容量、分布式通信、性能分析、量化和开发工作量。容量或峰值吞吐优势只有在模型和服务栈可以稳定利用时才有价值。
3. Intel产品家族
Intel AI芯片家族与广泛CPU和企业基础设施紧密相关。根据模型大小、延迟、精度、内存和功耗，工作负载可能运行在通用CPU、集成加速、独立AI加速器或数据中心GPU上。
|-------------------------|-------------|----------------|
| 产品/家族 | 类别 | 特征和代表性适配 |
| Gaudi 2 | AI加速器 | 面向训练和推理的以太网扩展 |
| Gaudi 3 | AI加速器 | 生成式AI训练和推理 |
| Xeon Scalable | 服务器CPU | 通用计算、推理和数据中心主机 |
| 带AI加速的Xeon | 服务器CPU家族 | CPU推理和集成矩阵运算 |
| Data Center GPU Max | HPC/数据中心GPU | HPC和技术计算 |
| Arc GPU | 客户端GPU | 图形和本地AI |
| Core Ultra | 客户端处理器家族 | 端侧AI和异构PC计算 |
| Movidius VPU家族 | 边缘视觉处理器 | 低功耗视觉和边缘推理 |
表4：Intel代表性AI产品与特征，不是完整目录。
Intel评估应把预处理、模型执行和后处理映射到CPU与加速资源，测试向量化、编译器输出、算子支持、量化、热行为、机群管理、驱动生命周期和既有x86应用兼容性。
4. Qualcomm产品家族
Qualcomm强调高能效移动、汽车、嵌入式和边缘系统。其AI常在靠近传感器和用户的位置运行，隐私、响应、连接独立性和能效比数据中心规模吞吐更关键。
|--------------------------------|-----------|-----------------------|
| 产品/家族 | 类别 | 特征和代表性适配 |
| Snapdragon X Elite/Plus | PC SoC | CPU、GPU和NPU协同的端侧生成式AI |
| Snapdragon 8系列 | 移动SoC | 移动相机、语言和端侧AI |
| Snapdragon Ride | 汽车平台 | 辅助和自动驾驶计算 |
| Snapdragon Digital Chassis | 汽车平台 | 座舱、连接和车辆AI |
| Cloud AI 100 | 数据中心推理加速器 | 高能效推理部署 |
| RB5平台 | 机器人/边缘平台 | 机器人、视觉、传感器和连接 |
| Dragonwing平台 | 工业/IoT平台 | 边缘AI、连接和嵌入式系统 |
| Hexagon NPU/DSP | AI处理引擎 | 高效端侧神经网络执行 |
表5：Qualcomm代表性AI产品与特征，不是完整目录。
Qualcomm部署需要模型转换、量化、算子支持、内存规划、热控制和传感器流水线集成。测试离线运行、更新机制、隐私边界、间歇连接和资源受限时的优雅降级。
图2：硬件选型需要平衡多个生产重点。
5. 计算、内存与精度
AI芯片通过并行执行和专用单元加速向量、矩阵和张量运算。寄存器、本地内存、缓存、高带宽内存和主机内存形成层次。计算受限时算术单元是瓶颈，内存受限时权重和激活移动占主导。
FP32、FP16、BF16、INT8和低比特格式影响吞吐、内存、范围和精度。混合精度在部分累加和缩放中保留较高精度。所有量化部署都要做输出质量、校准和稳定性测试。
|--------------|-----------|----------|----------|
| 层次 | 作用 | 典型瓶颈 | 优化 |
| 本地内存 | 靠近计算保存操作数 | 容量或占用率 | 分块和复用 |
| 缓存 | 减少重复访问 | 工作集大小 | 布局和局部性 |
| HBM/DRAM | 保存权重和激活 | 带宽/容量 | 量化和分片 |
| 主机传输 | 供给设备 | 总线和复制时间 | 流水线和固定缓冲 |
| 互连 | 跨芯片搬运 | 延迟/带宽 | 拓扑和重叠 |
表6：AI芯片内存与通信层次。
6. 互连与分布式AI
大模型需要跨设备分布。数据并行切分样本，张量并行切分层计算，流水线并行切分阶段，专家并行路由令牌。扩展效率取决于拓扑、同步、集合通信以及通信与计算比例。
应在真实规模下分析all-reduce、all-gather、点对点传输、同步等待和慢节点。如果网络、主机或存储成为瓶颈，增加芯片不会保证每美元有效工作增加。
7. 软件与模型服务
硬件需要驱动、运行时、编译器、图优化器、内核库、通信库、模型格式、性能分析和服务系统。可移植性依靠抽象，峰值性能通常需要硬件特定调优。应记录版本、参数、转换步骤和数值容差。
服务系统需要批处理、准入控制、调度、缓存、自动扩缩容、流量路由和回滚。生成模型要报告提示长度、输出长度、批量、并发、首令牌、令牌间延迟、尾延迟和每焦耳令牌数。
图3：端到端性能包括主机、设备、网络和服务开销。
8. 功耗、散热与物理设计
功耗是系统约束。更高性能可能增加热密度、散热、机架功率和运营成本。调度、稀疏、量化、数据复用和动态频率可以改善每瓦性能。
应在功率上限、温度、风扇策略、内存温度和机架限制下测量持续行为。边缘设备需要电池感知调度、传感器占空比和优雅降级，短时峰值可能掩盖真实负载降频。
9. 安全与供应链
AI硬件安全包括固件、驱动、设备隔离、内存保护、租户隔离、模型机密、可信启动、签名更新和供应链来源。加速器可能处理敏感权重和用户数据，设备访问和诊断接口必须受控。
采购应记录来源、生命周期支持、漏洞响应、替换策略、区域限制和既有机群兼容性。测试主机到设备传输、多租户调度、侧信道和被攻破依赖。
|---------|-------------|-----------|
| 领域 | 核心问题 | 证据 |
| 性能 | 完整工作负载是否达标？ | 端到端基准和分析 |
| 效率 | 每瓦/每美元性能如何？ | 功耗、成本和吞吐 |
| 软件 | 算子和工具是否支持？ | 兼容和转换测试 |
| 可靠性 | 故障如何恢复？ | 故障注入和检查点 |
| 安全 | 设备和数据是否受保护？ | 隔离、固件和审计 |
| 供货 | 能否获得并维护容量？ | 交付和生命周期计划 |
表7：AI芯片生产评估框架。
10. 选型检查表
- 定义模型、批量、序列、精度、延迟、吞吐和质量要求。
- 在代表性软件和硬件版本上测试端到端工作负载。
- 测量内存、通信、功耗、热行为、利用率和尾延迟。
- 评估开发工作量、编译器成熟度、可移植性和运维工具。
- 纳入安全、供货、生命周期、区域可用性和总成本。
- 在承诺大规模集群或边缘机群前进行真实规模试点。
结论。NVIDIA、AMD、Intel和Qualcomm的芯片产品和软件路径各有重点。最佳产品取决于工作负载映射、内存、互连、软件成熟度、功耗、供货、安全和系统经济性，而不是单一峰值规格。