Azure Local GPU 部署与企业应用场景指南（上篇）

文档定位 ：上篇讲清 "Azure Local 跑 GPU 的全部前提与底座"------从概念、硬性约束、支持矩阵到 OEM 集成上下文与 AKS Arc GPU 池。

下篇讲 "如何真正部署、运维、授权、被 License 约束"------操作流程、应用场景、避坑、NLS / DLS License 链路、附录。

§A. 概念边界（先把名字对齐）

GPU 在 Hyper-V / Azure Local 上的术语很容易混。这一节把术语和它们互相之间的差别一次讲清楚，后面所有章节的概念都基于此。

§A.1 GPU 共享模式的家族树

§A.1.1 GPU-P 与 SR-IOV 的精确关系

【关键校正】：

GPU-P 底层需要 支持 SR-IOV 能力的 GPU（azloc-2606 / NVIDIA vGPU 文档用语）

但 GPU-P 并不是 PCIe SR-IOV Virtual Function (VF) 的传统实现

Hyper-V 暴露给 VM 的是 GPU Partition（带显存、Encoder、Engine 的完整虚拟实例），不是 VF passthrough

微软文档与 NVIDIA 文档一直强调这一点："GPU-P" 是 Hyper-V/Windows 层的 partition 模型；NVIDIA vGPU 软件提供底层支持

含义：如果客户 / 工程师简单的说"GPU-P 就是 SR-IOV"，这是不准确的------SR-IOV 是底层能力要求，GPU-P 是 Hyper-V 上层 partition 模型。

§A.1.2 GPU-P = GPU Partition 模型（不是"时间分片"）

【v1.4 校正·避免过度简化】：

不要把 GPU-P 简单说成"时间分片"------这是简化过头。NVIDIA 官方 / Microsoft / Hyper-V 文档里 GPU-P 的资源切分至少涉及：

|------------------------------------|-------------------------------------------------|
| 资源 | GPU-P 隔离方式 |
| GPU Engine（计算 / CUDA cores） | 由 NVIDIA vGPU Manager 时间调度（time scheduling） |
| VRAM | 按 Partition 隔离（size cap per partition） |
| Encoder（NVENC）/ Decoder（NVDEC） | 按 Partition 分配或按时间共享 |
| Scheduling 调度器 | NVIDIA vGPU Manager 内置 |

含义：性能损失"通常只有几个百分点到十几个百分点"，没有一个官方权威数字 ------不同 GPU（A2 / L4 / L40 / L40S）、不同 Partition 数（2 个 vs 8 个）、不同负载（CUDA dense vs 渲染 vs 视频编码）差异较大。不要给固定性能数字。

【企业最佳实践·调优】：

在 partition 数与 partition size 之间走权衡------partition 越多，每份算力越少；partition 越少，单 VM 越接近"半卡"

用 nvidia-smi vgpu 在 host 端看 partition 实际占用；用 nvidia-smi 在 VM guest 看 license / 显存
【三层标注】：

微软硬要求 ：Azure Local GPU 部署只有两种合规的 GPU 归属方式------DDA 与 GPU-P。其它（vSMP、GPU-V、vendor 自定义）不在 azloc-2606 支持矩阵内。

工具默认行为 ：Get-VMHostPartitionableGpu / Set-VM -GpuPartition 等 PowerShell cmdlets 把 DDA 与 GPU-P 分别映射到 --gpus GpuDDA 与 --gpus GpuP。

企业最佳实践：DDA 用于"全速性能 + license-free"（LLM 推理 / 高性能计算 / 大模型微调）；GPU-P 用于"密集度 + license pool 隔离"（VDI / Render Farm / 培训教室）。

§A.2 三个核心概念厘清（卡在很多读者面前的混淆）

§A.2.1 DDA 不等于"另一种 GPU-P"

DDA 把整张物理 GPU 完整独占给一台 VM------GPU 的 PCIe BAR、MMIO、显存（VRAM）、NVENC / NVDEC、CUDA cores 全部归这台 VM 所有。即使有空余显存（例：你有 24GB 显存但 VM 只用 4GB），也不能被其他 VM 借用。

GPU-P 是把一张物理 GPU 按时间片切分到多台 VM（典型如一张 A2/A16/A40 切成 2~6 个 partition）。每个 partition 给一台 VM，VM 看到的是"半卡"或"四分之一卡"。

|---------------------|---------------------------------------------|-----------------------------------------------------------|
| 项 | DDA | GPU-P |
| GPU 类型 | NVIDIA dGPU（专业卡 / 数据中心卡） | NVIDIA dGPU（消费级 / 数据中心级须支持 SR-IOV） |
| 多 VM 共享 | 否 | 是 |
| License | 不需要 NVIDIA vGPU License | 必须 NVIDIA vGPU License（vWS / vPC / vApps） |
| Live Migration | 不支持（Hyper-V 行为级限制） | 支持（OS build ≥ 26100.xxxx + NVIDIA vGPU ≥ 18） |
| NVIDIA vGPU Manager | 否 | 是 |
| Hyper-V cmdlet 关键字 | --gpus GpuDDA | --gpus GpuP |
| 性能损失 | 接近原生性能（near-native；微软 / NVIDIA 均未给量化数字） | 通常几个百分点到十几个百分点（无统一权威数字；不同 GPU / Partition 数 / 负载差异较大） |
| 适用 | HPC / 训练 / 大模型推理 / 任何"吃 GPU" | VDI / 教学机房 / Render Farm |

【企业最佳实践】：

GPU 资源利用不均时，DDA 浪费严重------一张 L40S（48 GB VRAM）跑一个 LLM 7B 推理 VM，浪费 30+ GB VRAM

GPU 资源需求均匀时（例：100 个 VDI 用户每人都要 DX12 加速），用 GPU-P 分摊------单 GPU 切 8 个 partition，单卡支撑 8 个 VDI 用户

负载波动大时（白天 VDI 高峰、夜间训练），考虑 DDA + GPU-P 混用部分 GPU 或弹性 GPU 收回池

§A.2.2 vGPU ≠ Azure Local GPU-P

社区博客常把 "vGPU" 和 "GPU-P" 当一回事写------这是品牌借用造成的术语混淆：

NVIDIA vGPU 软件（NVIDIA 官方品牌）= 包含 vGPU driver、vGPU Manager、license client、license server
GPU-P（GPU Partitioning）= 微软 / azloc-2606 / Hyper-V cmdlet 使用的术语
两种说法 99% 场景下等价------但严格说：vGPU 是 NVIDIA 商业产品线，GPU-P 是微软在 Hyper-V 上分区 GPU 的能力

在 Azure Local 里：

GPU-P 必须配 NVIDIA vGPU Manager (≥ 18.0 for R570 分支 / 当前预览版本可更高)
GPU-P 客户端（VM 内）需要装 NVIDIA vGPU driver，并在 vGPU type 上传 license token

§A.2.3 Live Migration：两个模式的硬差

azloc-2606 attach-gpu-to-linux-vm 原文：

Discrete Device Assignment (DDA) doesn't support Live Migration. This is a limitation of DDA itself.

加上 GPU-P 的 live migration 限制：

Live migration is supported for GPU-P VM as of OS build 26100.xxxx. NVIDIA vGPU version 18 or later is required.

|--------------|--------------------|-------------------------------------------------------------------------------------------|
| 模式 | Live Migration | 备注 |
| DDA | ❌ 不支持 | Hyper-V / DDA 行为级限制（不是 Azure Local 限制） |
| GPU-P | ✅ 支持 | 受 OS build / GPU Driver / vGPU Manager / Azure Local 版本 四元约束（不是单一 Azure Local 限制） |
| 无 GPU 的普通 VM | ✅ 支持 | 节点维护窗口期 |

【v1.4 关键校正·Live Migration 来源归属】 ： GPU-P Live Migration 不是 Azure Local 限制 ------是 多约束的硬要求，四个条件同时满足才能 live migrate：

|-----------------------------|-------------------------------------------------|--------------------------|
| 约束 | 来源 | 当前值 |
| Hyper-V / Windows Build | OS build ≥ 26100.xxxx（Win11 24H2 / Server 2025） | 由 OS 决定 |
| GPU Driver | NVIDIA vGPU driver ≥ 18 | 由 NVIDIA vGPU 软件决定 |
| vGPU Manager | NLS 客户端 ≥ 18.0 + DLS ≥ 3.4 | 由 NVIDIA vGPU 软件栈决定 |
| Azure Local 版本 | azloc-2606 起；逐版本延展 | 由 Azure Local release 决定 |

含义：升级任一环节破坏组合，Live Migration 就失败。Azure Local 只是继承 Hyper-V / Windows / NVIDIA 栈的最新版。
【三层标注·决策】：

微软官方行为：azloc-2606 原文明示"DDA itself"是限制根源；GPU-P 的 live migration 门槛是 OS build 与 vGPU 版本

企业最佳实践：DDA VM 上线时就要按"机器不上 GPU 池就长期不维护"的假设规划------避免节点维护时 DDA VM 被锁在单一节点

真实生产陷阱：社区博客里"DDA VM 支持迁移"的说法都不准确，azloc-2606 文档原文明示反例

§A.3 时间线：vGPU 12 ~ vGPU 18.x 的演进（NVIDIA 官方）

|-----------------|------------------|-----------------------------------------------------------------------------------------------------------------------|-------------------------------------------|
| vGPU 版本 | 对应 NVIDIA 分支 | 关键变化 | 与 Azure Local 兼容性 |
| vGPU 13.0 | R470 | NVIDIA License System (NLS) 取代 vGPU License Server | DLS 1.x |
| vGPU 13.x~14.x | R535 | Ampere 微架构支持；Live migration 实验 | DLS 1.x / 2.x |
| vGPU 15.0 | R535 LTS | Node-locked licensing 引入（气隙场景） | DLS 2.x |
| vGPU 16.1 | R535 | DLS cluster 支持 > 2 节点（最多 9） | DLS 3.x |
| vGPU 17.x | R555 | 旧 vGPU License Server 进入弃用通告 | DLS 3.x（注意：仍能用老 license server 到 EOL） |
| vGPU 18.0+ | R570 | 完全弃用旧 vGPU License Server；DLS 必须 ≥ 3.4；License Server File 3 年有效期；Ada Lovelace GPU 上不支持 manual placement of vGPUs | DLS 必须 ≥ 3.4 |
| vGPU 18.1~18.6 | R570 点版本 | bug fix / 新 GPU 兼容（当前 azloc-2606 文档范围内） | DLS ≥ 3.4 |

【企业最佳实践】：

不建议跨大版本跳升级------如果当前是 vGPU 15.x，应在 DLS 2.x 已稳定后再升 DLS 3.4 → 再升 vGPU 18

NVIDIA vGPU 软件版本一致性是部署层最容易踩的坑：vGPU Manager 18.x 必须配 vGPU driver 18.x，VM guest driver 必须配 host vGPU Manager，不一致直接 vGPU 起不来

EOL 表不在 NVIDIA 公开文档中，所以 R570 / vGPU 18.0+ 实际的官方支持期请查交付期 NVIDIA 官方 "Software Product Support Lifecycle"

§A.4 Cluster 端一致性硬要求

【v1.4 关键补充 --- azloc-2606 反复强调】 ： 整个 cluster 中的所有节点 GPU Driver / GPU Firmware / VBIOS 三层必须保持一致，否则：

Cluster Validation 失败 ：Test-Cluster 在 GPU 相关项报红

Live Migration 失败：源 / 目标节点 driver 不一致时 VM 迁移中断

GPU Enumeration 异常：节点 A 看到 7 块 GPU、节点 B 看到 6 块，CSV/CSV-cache 行为不一致

AKS Arc GPU node pool join 失败：K8s device plugin 在 driver mismatch 节点上报 NotReady

§A.4.1 Driver / Firmware / VBIOS 三层一致性

|---------------------------------------------------------|----------------------------------|-------------------------------------------------|
| 层 | 来源 | 一致性含义 |
| GPU Driver（NVIDIA vGPU driver / Data Center driver） | NVIDIA 官方 | 同 cluster 内每节点 driver 版本号完全一致（包括 patch 号） |
| GPU Firmware（OEM GPU 卡固件 / GPU board 固件） | OEM（Dell / HPE / Lenovo）+ NVIDIA | 同 cluster 内每节点 firmware version 一致 |
| VBIOS（GPU 启动固件） | OEM | VBIOS 版本号一致------通常 OEM 在 BIOS bundle update 里发 |

【企业最佳实践·三层一致性的工程做法】：

集群铺 GPU 前 ：所有节点由同一 OEM SKU、同一发货批、同一 GPU SKU、同一 driver / firmware bundle 出厂------参考 Dell 的 Solution Builder Extension (SBE) 自动铺货

集群升级 GPU 时：通过 Azure Update Manager + Azure Local SBE 推 firmware bundle------保证 16 节点同 version

例外：azloc-2606 不强制要求混合 A100 / A40 这类异构 GPU；只要求同型号内一致

§A.4.2 Cluster Validation 与 GPU

【易遗漏】 ： GPU 部署完成后，建议重新跑一次 Test-Cluster------azloc-2606 / Hyper-V 文档并未强制要求这一步，但企业实践倾向：driver / firmware install 后的 cluster 状态不一定与初始验证一致；重跑可暴露：

MMIO mapping 一致性（详见 §A.5）

GPU NUMA topology 一致性

Live Migration 元数据一致性

【企业最佳实践·Cluster Validation 节奏】：

OS 安装 + cluster join 后第一次 Test-Cluster

GPU 设备装 driver 后第二次 Test-Cluster（捕获 MMIO / NUMA 问题）

AKS Arc GPU node pool 上线后第三次 Test-Cluster（捕获 K8s 相关 cluster 健康）

重大 driver / firmware 升级后第四次 Test-Cluster

§A.5 PCIe Slot 与 MMIO 约束

§A.5.1 PCIe Slot 物理要求

【易踩坑】 ： 很多 GPU 卡的 PCIe 物理槽位要求是写死的 ------L40S / RTX PRO 6000 这类数据中心卡通常需要 PCIe x16（Gen4 或 Gen5）：

x16 槽位：完整带宽（Gen5 = 128 GB/s 双工）

x8 槽位：性能直接降一半（Gen5 x8 = 64 GB/s 双工）

跨 NUMA node 装 GPU：性能再降（CPU1 控制 GPU 配 CPU2 内存时延高）

NVIDIA RTX PRO 6000 600W 96GB 这种"双宽"物理卡 还需要 PCIe 槽位的 power budget ------AX-770 spec sheet 明示支持双宽卡，前提是电源瓦数 ≥ 3200W / 2400W 双 PSU（1+1 红余）------这是装机前的硬约束，不是软件层可绕开
【企业最佳实践·装机前 GPU-Ready 校验】：

Power：PSU 单电源瓦数 ≥ GPU 卡 TDP × 1.3（NVIDIA OEM guideline 经验值）

PCIe Slot：Gen5 x16 主槽 + Gen4 x8 备用

散热：GPU 卡物理 RATED TDP 与 OEM 系统级散热匹配（Dell OpenManage 不会监视 GPU 散热）

机箱空间：双宽卡需要机箱物理宽度 ≥ 2 slots

NUMA：在 dual-socket 系统上 GPU 槽位与哪个 CPU socket 直连，对 NUMA 性能有影响

§A.5.2 MMIO 简要预告（下篇详述）

【关键预告 --- DDA 第一次部署最常踩坑】 ： DDA 能否成功，最大影响因素不是 Driver，而是 MMIO------

MMIO（Memory-Mapped I/O）：GPU 的 PCIe BAR 寄存器 / VRAM 都通过 MMIO 暴露给 host / VM

Above 4G：当 VRAM 较大（≥ 16 GB）时 BAR 空间需要 Above 4G decoding

BAR Mapping：某些 OEM BIOS 把 BAR 切得太碎 / 留太短，DDA 装不上

DDA 失败第一原因 ：MMIO 空间不足；Driver / Firmware 错误往往是末位原因。v1.4 在此提醒，下篇 §F.2 详细给出 MMIO 调优步骤与 High MMIO 公式

【企业最佳实践】：

DDA 第一次部署 → 先在 BIOS 把 Above 4G Decoding = Enabled 、MMIO High Size 调到合适值

装完 driver 后用 nvidia-smi -q 看 GPU BAR 信息；用 Get-VMPartitionableGpu / Get-VMHostPartitionableGpu 看 Hyper-V 视角

真要踩坑时看 Windows Event Viewer → System → Event ID 29 / 39（DDA 失败通常有 error）

§A.6 MIG vs GPU-P 的精确边界

【AI 用户最易混】 ： Azure Local 当前支持的 GPU 共享能力是 GPU-P + DDA ，不支持 NVIDIA MIG（Multi-Instance GPU）：

|-------------------------------------|------------------------|----------|----------|-----------------------|--------------------------|
| 机制 | 粒度 | 物理隔离 | 共享硬件 | NVIDIA 卡约束 | Azure Local 支持 |
| DDA（Discrete Device Assignment） | 整张 GPU | 整张卡 | 不可分 | 所有 NVIDIA dGPU | ✅（2408 起） |
| GPU-P（GPU Partitioning） | 1 张卡 → 多个 Partition | 软件层 | 共享整张卡 | 必须 SR-IOV capable GPU | ✅（OS build 26100+ 起） |
| MIG（Multi-Instance GPU） | 1 张卡 → 最多 7 个 instance | 硬件层 | 严格硬件隔离 | 仅 A100 / H100 / H200 | ❌（Azure Local 当前不支持） |

【含义】：

L40S / L40 / RTX PRO 6000 这些 Ada / Blackwell 卡的硬件支持 MIG，但 Azure Local GPU-P 路径绕开了 MIG------因为 MIG 是另一套实例化体系（CUDA Programming Model 上层），GPU-P 是 Hyper-V 调度上层的 partition

客户问"为什么 L40S 不能 MIG" ：答案是 Azure Local 上 GPU-P ≠ MIG------这是两条平行路径

真要 MIG ：需要 NVIDIA AI Enterprise 软件栈 + 配套硬件，且当前不在 Azure Local GPU 部署路径内

【企业最佳实践】：

把 GPU-P 当作"MIG-like 共享"，但 Partition 之间没有硬件级隔离------在多租户场景下，GPU-P 不保证一个 VM 看到另一个 VM 的显存 / 计算（vGPU Manager 调度的）

多租户强隔离需求（如 SaaS 多企业共用 GPU）------当前 Azure Local 没有 100% MIG 等价方案

§A.7 三模式对照表

【v1.4 关键补充 --- 一张图读懂 DDA / GPU-P / 软件模拟】：

|--------------------|-----------------------------------------|-------------------------------------------------------------------|-----------------|
| 维度 | DDA | GPU-P | （废弃路径）GPU-V |
| 资源粒度 | 整张物理卡 | Partition（带 VRAM / Engine / Encoder 的虚拟实例） | 软件模拟（无真 GPU 访问） |
| 多 VM 共享 | 否（独占） | 是（典型 2~8 个 partition per GPU） | 是 |
| License | 不需要 vGPU License | 必须 vGPU License（vWS / vPC / vApps） | 不需要 |
| Live Migration | ❌ 不支持 | ✅ 支持（OS build ≥ 26100 + vGPU ≥ 18） | ❌ 已废弃 |
| 典型场景 | LLM 推理 / AI 训练 / HPC / 大模型微调 | VDI / 渲染 / 培训教室 | （已 deprecated） |
| 主要操作系统 | Arc-enabled VM / Unmanaged VM / AKS Arc | Unmanaged VM（DDA 也支持，但 GPU-P 选 Arc VM 时有别） | 历史 |
| 底层厂商支持 | 全部 NVIDIA dGPU | 必须 SR-IOV capable（A2 / A16 / L4 / L40 / L40S / RTX PRO 6000 / T4） | （已 deprecated） |

§A.8 GPU 部署决策树

【选 GPU 路径的决策树】：

【企业最佳实践·决策树用法】：

第一步 ：业务驱动是 K8s / VDI / CAD / HPC / LLM 还是训练？训练 / 微调强烈建议上云（Azure ND H100 / H200 v5）

第二步：选 deployment path------K8s 走 AKS Arc、VDI/CAD 走 GPU-P、LLM 推理走 DDA

第三步 ：选卡（参考 §C.1 矩阵）------VDI 主流 A16 / LLM 主流 L40S ×2 / CAD 主流 L4 / 多卡混合 A2+A16

第四步：选 OEM SKU（参考 §D.4 / §D.5）------RTX PRO 6000 Blackwell 96GB 仅 AX-770；L4 几乎全平台

§B. 微软官方硬性约束（azloc-2606 system-requirements + gpu-preparation）

azloc-2606 是当前 Azure Local 官方文档的代号。GPU 部署有明确的硬约束，本节逐条列出。

【来源说明】：

本节档全部 "微软硬要求" 的事实来源 ：azloc-2606 system-requirements + gpu-preparation + gpu-manage-via-device + gpu-manage-via-partitioning 四篇官方文档

本节档全部 "工具默认行为" ：Get-VMHostPartitionableGpu、Set-VM、Add-VMAssignableDevice 等 PowerShell cmdlet（出自 Microsoft.HyperV.PowerShell 模块）

本节档全部 "企业最佳实践"：经验性归纳，均明示"经验"标识

§B.1 主机硬件要求（azloc-2606 system-requirements 原文）

|------------------|------------------------------------------------------------------|------------------------------------|
| 维度 | 硬要求 | 备注 |
| GPU 硬件认证 | 必须 catalog supported（在 Azure Local Catalog 上列出的硬件） | 非 Catalog 硬件不在 Azure Local 原厂生命周期内 |
| GPU 同型同容 | 所有 GPU 必须同型（型号+容量） | 混合型号不被 S2D 与 vGPU 完整支持 |
| GPU-P 必须 SR-IOV | SR-IOV 必须 BIOS 开启 + OS 必须支持 SR-IOV | 否则 GPU-P 不能切分 |
| GPU 直通需要 BIOS 支持 | VT-d（或 AMD 等价）必须开启 | DDA 与 GPU-P 都依赖 |
| 显存容量 | 建议 ≥ 16 GB | 8 GB 也能跑但 LLM 推理受限 |
| 操作系统构建 | 必须 ≥ Azure Local 2402 + OS build 26100.xxxx（azloc-2606 文档范围） | 早期版本 GPU-P live migration 不支持 |

§B.1.1 BIOS 设置关键项（azloc-2606 system-requirements）

|----------------------------|--------------------------|----------------------------------------|
| BIOS 项 | 必须值 | 验证方法 |
| SR-IOV | Enabled | BIOS Advanced → PCI Subsystem → SR-IOV |
| VT-d / IOMMU | Enabled | BIOS Advanced → CPU → IOMMU |
| PCIe Above 4G Decoding | Enabled | 决定 DDA 能否 BAR 切更大空间 |
| ACS Enable | Enabled（部分机型） | 控制 PCIe ACS 行为；DDA 跨节点迁 VM 需 |
| Memory Map Above 4GB | Enabled | DDA MMIO 在 OS 4GB 以上开窗 |
| NUMA Nodes Per Socket | 保持默认或单一 NUMA per GPU | 多 socket 不同步性能会掉 |

【三层标注】：

微软硬要求：azloc-2606 system-requirements 列出的 BIOS 设置必须 Enable（SR-IOV、VT-d）；其它项一般是经验

企业最佳实践（经验） ：PCIe Above 4G Decoding 和 Memory Map Above 4G 大多数 OEM 默认开启，但 Dell/HPE 某些 SKU 默认关闭，遇到 DDA MMIO 错时第一件事就是查这里

§B.2 GPU 拓扑约束（azloc-2606 gpu-preparation 原文）

azloc-2606 gpu-preparation 原文校对其要点：

GPU 与 NUMA 亲和：GPU 必须尽量绑到操作系统 NUMA 节点------避免跨 socket 访问产生 QPI / UPI 延迟
亲和策略 ：
1. NUMA affinity ------ 让 VM 与 GPU 落在同一 NUMA 节点（性能最佳）
2. Anti-affinity ------ 让 VM 与特定 NUMA 分离（避免热点 NUMA）
DDA 与 GPU-P 的 NUMA 差异 ：
1. DDA：VM 创建时绑定 NUMA；节点维护时 NUMA 会随 VM 迁移，但 DDA 不支持 live migration，所以 NUMA 一旦绑定就锁死
2. GPU-P：支持 live migration，但 host 配置的 NUMA 提示可能在迁出时失效

§B.2.1 NUMA 与 GPU 拓扑的检查命令

复制代码

# 列出 host 上的 GPU 与 NUMA 对应关系
Get-NetAdapterHardwareInfo | Where-Object InterfaceDescription -Match "Mellanox|Broadcom|Intel"
Get-NetAdapter | Sort-Object NumaNode

# 查看 GPU NUMA 亲和
Get-VMHostPartitionableGpu

§B.3 一个物理 GPU 不能同时是 DDA 又被 GPU-P 切（azloc-2606 原文）

azloc-2606 gpu-manage-via-device 原文：

You can't assign a physical GPU as both DDA and GPU-P.

含义：

一张 GPU，要么走 DDA 路径分给一台 VM，要不就空着
一张 GPU，要么切分成多个 GPU-P partitions 全分给多 VM，要不就空着
不能"DDA 给 VM-A，剩余的 VRAM 给 VM-B 当 GPU-P"------azloc-2606 当前不支持这种混合

|----------------------------------------------|-----------|
| 拓扑 | 是否允许 |
| 单 GPU + DDA 给单 VM | ✅ |
| 单 GPU + GPU-P 多 partition 分多 VM | ✅ |
| 单 GPU + DDA 给 VM-A + GPU-P partition 切给 VM-B | ❌ 不允许 |
| 双 GPU × DDA 给两 VM | ✅ |
| 双 GPU × DDA 给一 VM（多卡） | ✅ |
| 双 GPU × GPU-P 各自分配 | ✅ |
| 双 GPU × DDA 一张 + GPU-P 一张 | ✅ |

§B.4 Azure Local 在 GPU 上的整机编排边界

§B.4.1 调度器对 GPU 的"看不见"特性

Arc-enabled Kubernetes + GPU：

AKS Arc 调度器只识别 CPU + 内存 + GPU 数量，不区分 DDA / GPU-P（AKS Arc 总是 DDA 路径）
AKS Arc 不支持 GPU-P（azloc-2606 aksarc deploy-gpu-node-pool 原文："AKS Arc doesn't currently support GPU partitions"）
K8s GPU plugin ：NVIDIA device plugin 报告 nvidia.com/gpu 资源给调度器

Hyper-V 调度：

VM 由 SCVMM / Failover Cluster Manager / Azure Local operator 控制
GPU 拓扑在 host 上配置，VM 创建时一一指定 partition / DDA

【企业最佳实践】：

AKS Arc 跑 LLM / 推理 时永远走 DDA 路径；架构里就别想着用 GPU-P

Hyper-V + VDI / RDSH 时走 GPU-P 路径（多用户共享 GPU + license pool 控制）

混合场景：Azure Local 上同时跑 AKS Arc + Hyper-V 时，每个 host 的 GPU 要按"AKS Arc 用几张 DDA、Hyper-V 用几张 GPU-P"区分，混合到同一张 GPU 是不允许的

§B.4.2 DDA 与 GPU-P 上的 GPU Power State（P-State）行为

azloc-2606 没有专门章节讨论 P-state，但经验 + NVIDIA driver 文档要点：

DDA：VM 内的 NVIDIA driver 可以调 P-state（最高性能 / 自适应 / 节能）
GPU-P：host 上的 vGPU Manager 控制 P-state（不能 inside VM 调控）
影响：DDA 可以关闭 GPU Boost 节能；GPU-P 默认节能

【企业最佳实践】：

持续高性能负载（HPC / LLM）：用 DDA + 把 VM 内 P-state 锁在最高

波动负载（VDI 白天高、夜间低）：用 GPU-P 自适应节能，能省 30~60% 能耗（NVIDIA 官方与社区均有数据，但无官方具体数字；本节档标"经验"）

§C. GPU 型号支持矩阵（azloc-2606 gpu-preparation 官方表格）

azloc-2606 官方列出 7 款 GPU 在 DDA / GPU-P 、Azure Local VMs via Arc / Unmanaged VM / AKS Arc 的完整支持矩阵。这一节把官方表格原貌搬上来，并补每张卡的场景适应性注。

§C.1 官方支持矩阵总览

【来源标注】 ：本节事实全部来自 azloc-2606 gpu-preparation 文档的 "Supported GPUs for Azure Local deployment"。本节档没有自加任何型号------azloc-2606 没列的不应在 Azure Local 上跑。

|--------------------------------------------------------|---------------|---------------------------------------------------------|----------------------------------|------------------------|-------------------|----------------|
| GPU 型号 | VRAM | 微架构 | DDA + Azure Local VM via Arc | DDA + Unmanaged VM | DDA + AKS Arc | GPU-P + VM |
| NVIDIA T4 | 16 GB | Turing | ✅ | ✅ | ✅ | ❌ |
| NVIDIA A2 | 16 GB | Ampere | ✅ | ✅ | ✅（自 2311.2） | ✅ |
| NVIDIA A10 | 24 GB | Ampere | ❌ | ✅ | ❌ | ✅ |
| NVIDIA A16 | 64 GB（4×16GB） | Ampere | ✅ | ✅ | ✅（自 2402.0） | ✅ |
| NVIDIA A40 | 48 GB | Ampere | ❌ | ✅ | ❌ | ✅ |
| NVIDIA L4 | 24 GB | Ada Lovelace | ✅ | ✅ | ✅（自 2512.0） | ✅ |
| NVIDIA L40 | 48 GB | Ada Lovelace | ✅ | ✅ | ✅（自 2512.0） | ✅ |
| NVIDIA L40S | 48 GB | Ada Lovelace | ✅ | ✅ | ✅（自 2512.0） | ✅ |
| NVIDIA RTX Pro 6000 （Server Edition，Blackwell） | 96 GB | Blackwell / RTX Workstation（Server Edition = 数据中心版） | ✅ | ✅ | ✅（自 2603.0） | ✅ |

【三层标注】：

微软硬要求 ：上表 ✅ / ❌ 是 azloc-2606 官方给出的具体边界，❌ 那个组合直接失败，没有 "workaround"

企业最佳实践：A10 / A40 的"❌ Arc-enabled VM"是 azloc-2606 显式禁用------不能用它们跑 Arc-enabled VM，但是还可以跑 Unmanaged VM + DDA；混部署 GPU 池时按这个约束挑卡

AKS Arc 时间表总结：

NVIDIA A2 自 2311.2 开始支持

NVIDIA A16 自 2402.0 开始支持

NVIDIA T4 自 2408.0 开始支持

NVIDIA L4 / L40 / L40S 自 2512.0 开始支持

NVIDIA RTX Pro 6000 自 2603.0 开始支持

A10 / A40：azloc-2606 没明示在 AKS Arc 上的支持------意味着 ❌

§C.1.1 DDA 支持最深的两条路线

|-----------------------------------------|-------------------------|-------------------------------------------------------------------------|
| GPU | DDA 全支持 | 备注 |
| NVIDIA T4 | ✅ 三种 VM（Arc/UM/Arc-K8s） | 唯一支持 AKS Arc 的 Turing 卡 |
| NVIDIA A2 | ✅ 三种 VM | 16 GB VRAM，AKS Arc 主力卡 |
| NVIDIA A16 | ✅ 三种 VM | 64 GB VRAM（4 个 A2 等价） |
| NVIDIA L4 | ✅ 三种 VM | L4 = 24 GB VRAM，能效比好 |
| NVIDIA L40 | ✅ 三种 VM | L40 = 48 GB VRAM，渲染 / LLM 中等 |
| NVIDIA L40S | ✅ 三种 VM | L40S = 48 GB VRAM，FP8 训练起点 |
| NVIDIA RTX Pro 6000（Server Edition） | ✅ 三种 VM | Blackwell Server Edition，96 GB VRAM，600W TDP，单卡即跑 70B 模型推理（FP4/FP8） |

【企业最佳实践·选型】：

选 L40S / L40 / RTX Pro 6000 时需要确认 host BIOS 的 PCIe Gen5 支持------这些卡是 PCIe Gen5，老平台（Gen3/Gen4）会降级但能跑；性能差 25~50%

选 A16 时（一卡 = 4 个 A2 = 64 GB），是密集 VDI + LLM 推理双场景的甜点卡

选 T4 时是老 SKU 的廉价兜底，但 VRAM 16 GB 跑不了太大 LLM

选 A10 / A40 时只能跑 Unmanaged VM（DDA）+ Hyper-V GPU-P；A10 是入门 / A40 是数据中心中级

§C.2 按场景选 GPU 的决策树

复制代码

你的工作负载是什么？
│
├── VDI 桌面上 100 个工程师都用：
│   ├── 工程师跑 AutoCAD / SolidWorks → vWS license + GPU-P + A16 / L4 切 8~16 partition
│   ├── 工程师跑普通 Web/Office         → vPC license + GPU-P + A2 / L4 切 16~24 partition
│   └── RDSH 应用流（渲染到终端）        → vApps license + GPU-P + A2 / T4 切 16+ partition
│
├── RDSH 远程桌面 / 渲染农场
│   ├── 渲染到终端 (RDSH 应用流)        → vApps license + GPU-P + A2/A16 切 24+ partition
│   └── 高端渲染（厨窗/广告）           → vWS license + DDA + L40S / L40
│
├── LLM 推理（中等模型 7B~13B）
│   ├── 显存敏感（70B 模型）            → DDA + RTX Pro 6000 (96GB) ×1 / L40S ×2 / A16
│   └── 单卡 max（7B ~ 13B）            → DDA + L40S / A40 / RTX Pro 6000 (96GB)
│
├── 训练（**不推荐** Azure Local，建议上 Azure 云）
│   └── 双卡以上 DDA + RTX Pro 6000 (96GB) ×2~4 / L40S ×4（**Azure Local 网络 / 存储时延非训练优化**）
│
├── 视频分析 / 计算机视觉
│   └── DDA + T4 / A2 / L4（A2 + Foundry Local 视频分析）
│
└── AKS Arc K8s 推理
    ├── ONNX-GenAI 推理 / vLLM 引擎    → DDA + A2 / A16 / L4 / L40 / L40S / RTX Pro 6000 (96GB)
    └── 小模型（ONNX Runtime + DirectML）→ DDA + T4 / A2

§C.3 部署方式的反向比较

|----------------------------|-----------------------------|--------------------------|----------------------------|-------------------------------------------------------|
| 维度 | DDA 在 Unmanaged VM | DDA 在 Arc-enabled VM | GPU-P 在 Unmanaged VM | DDA 在 AKS Arc |
| Live Migration | ❌ | ❌ | ✅（GPU-P + OS ≥ 26100.xxxx） | ✅（K8s pod 可移） |
| License | ❌ 不需要 | ❌ 不需要 | ✅ NVIDIA vGPU | ❌ 不需要 |
| 管理界面 | SCVMM / Hyper-V Manager | Azure Portal / Arc | SCVMM / Hyper-V Manager | kubectl |
| 多用户共享 | ❌ | ❌ | ✅ | ✅ |
| OS 在 Azure Local 上的支持 | Windows Server 2025 + Linux | Windows Server 2025 | Windows + Linux | Windows Server 2025 的 Arc-enabled VM + Linux K8s node |
| 与 Arc Gateway / Policy 的协同 | 弱（VM 走 Arc 即可） | 强（Arc governance 全套） | 弱 | 强 |

§D. Dell AX System for Azure Local（OEM 集成上下文）

【修订来源】：

主权威来源 ： ① Dell Technologies "AX System for Azure Local Specification Sheet" V7.0 （7 页 PDF，2026 © Dell Inc.）------ GPU 卡型号 + 瓦数 + 最多卡数 + iDRAC + OpenManage 版本 ② Dell Technologies "AX System for Azure Local " ------ 安装 + 运维路径 + GPU-P / DDA 流程 + BOSS 卡工程警告

副权威来源：azloc-2606 system-requirements 的 catalogue partner 包含 Dell；azloc-2606 gpu-preparation 列出的 validated systems 包含 Dell 部分 SKU

差异：V7.0 spec sheet 不再列 AX-650 / AX-750 / AX-7525 等"老型号" ；新纳入 AX-670（6 代 Granite Rapids，1U）/ AX-770（6 代 Granite Rapids，2U）/ AX-4000x（边缘系列）

§D.1 官方品牌名称与产品体系

【戴尔官方用语校对 --- Dell V7.0 P1 原句】：

"Dell AX System for Azure Local is Dell's offering for Premier Solutions, a category in the Azure Local catalog reserved for key partners with the greatest levels of engagement with Microsoft and deepest integrations into familiar Microsoft management tools."

"Azure Local instance scalability from 1 to 16 machines."

含义：

官方品牌名依旧是 "Dell AX System for Azure Local"
是 Azure Local Premier Solutions 分类的 OEM 集成方案------"Premier Solutions"是 Azure Local catalog 中只为深度集成合作伙伴保留的类别
集群规模 1~16 节点（V7.0 P1 原句）------与 SolVe PDF "as many as 16 AX nodes" 一致
Azure Local instance 支持 ruggedized AX-4000 for edge locations（V7.0 P1 原句）------边缘场景
Azure Local 软件 + Unlimited Windows Server 2025 Datacenter guest VMs（or earlier versions）------perpetual license
含 AKS enabled by Azure Arc on Azure Local（V7.0 P1 原句）

§D.2 当前 Dell AX SKU 完整矩阵（V7.0 Spec Sheet 原句校对）

【基底·Dell V7.0 Spec Sheet（2026 © Dell Inc.）原句 PDF】 ： V7.0 spec sheet 把 AX System 拆为四类 ：机架式（AX-660 / AX-670 / AX-760 / AX-770）+ 紧凑型（AX-4510c / AX-4520c）+ 边缘系列（AX-4000x）。

§D.2.1 机架式 SKU 完整对照（V7.0）

|------------|-----------------|-------------------------------------------|--------------|----------------------------|---------------------------------------------------------------------|---------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|------------------------------------------------------------------------------------------------------------------|
| AX SKU | Form Factor | CPU 代际 | iDRAC | OpenManage Integration | 存储形态 | GPU 卡 / 最多 | 备注 |
| AX-660 | 1U 机架 | 4代 Sapphire Rapids / 5代 Emerald Rapids | iDRAC 9 | v3.3.2+ | All-SSD 或 All-NVMe（10×2.5"） | NVIDIA A2 SW 60W 16GB ≤2 NVIDIA L4 SW 72W 24GB ≤2 | 仅单宽卡，2 卡上限 |
| AX-670 | 1U 机架 | 6代 Granite Rapids（up to 86 cores/SKU） | iDRAC 10 | v3.5+ | All-NVMe（16 × E3.s G5 x4） | NVIDIA L4 SW 72W 24GB ≤2 | V7.0 新品；6 代 Xeon + 仅 L4 |
| AX-760 | 2U 机架 | 4代 / 5代 Sapphire-Emerald Rapids | iDRAC 9 | v3.3.2+ | 4 种 chassis：All-SSD / All-NVMe / Hybrid(SSD+HDD) / Hybrid(NVMe+HDD) | NVIDIA A2 ≤4 NVIDIA A16 DW 250W 64GB ≤2 NVIDIA L4 ≤4 NVIDIA L40 DW 300W 48GB ≤2 NVIDIA L40S DW 350W 48GB ≤2 | 原文明示硬约束 ：All-flash chassis with rear storage 时 GPU 不支持 （这是 V7.0 新发现：AX-760 的 28×2.5" 配置后置存储时不支持 GPU） |
| AX-770 | 2U 机架 | 6代 Granite Rapids | iDRAC 10 | v3.5+ | All-NVMe（16 × E3.s G5 x4） | NVIDIA A16 DW 250W 64GB ≤2 NVIDIA L4 SW 72W 24GB ≤4 NVIDIA L40S DW 350W 48GB ≤2 NVIDIA RTX PRO 6000 Blackwell Server Edition DW 600W 96GB ≤2 | V7.0 新品 ；6 代 Granite Rapids + Blackwell Server Edition 首次在 Dell AX 平台列出；CPU 32 核到 86 核可选 |

【V7.0 P2 原句·AX-770 GPU 段·逐字校对】： "NVIDIA A16, DW, 250W, 64GB Passive, up to 2NVIDIA L4, SW, 72W, 24GB Passive, up to 4NVIDIA L40S, DW, 350W, 48GB Passive, up to 2NVIDIA RTX PRO 6000 Blackwell Server Edition, DW, 600W, 96GB Passive, up to 2"

【V7.0 P3 原句·AX-670 GPU 段·逐字校对】： "NVIDIA L4, SW, 72W, 24GB, Passive up to 2"

【V7.0 P4 原句·AX-760 GPU 段·逐字校对】： "NVIDIA A2, SW, 60W, 16GB Passive, up to 4NVIDIA A16, DW, 250W, 64GB Passive, up to 2NVIDIA L4, SW, 72W, 24GB Passive, up to 4NVIDIA L40, DW, 300W, 48GB Passive, up to 2NVIDIA L40S, DW, 350W, 48GB Passive, up to 2(GPUs are not supported on All-flash chassis with rear storage)"

§D.2.2 紧凑 / 边缘 SKU（V7.0 P6 原句）

|--------------|-----------------|-------------------------------|-----------|----------------|----------------------------------------------------------------|----------------------------------------------------------|
| AX SKU | Form Factor | CPU | iDRAC | OpenManage | GPU | 备注 |
| AX-4000x | Rackable | Ice Lake D 3代 | iDRAC 9 | v3.3.2+ | 继承 sled 配置 | V7.0 新增·边缘·ruggedized；-5C~55C、MIL 810H、NEBS Level 3 |
| AX-4510c | 1U sled（edge） | Ice Lake D 3代（up to 20 cores） | iDRAC 9 | v3.3.2+ | N/A （spec sheet 明示 N/A） | V7.0 明示------这一台不能装任何 GPU |
| AX-4520c | 2U sled（edge） | Ice Lake D 3代（up to 20 cores） | iDRAC 9 | v3.3.2+ | NVIDIA A2 SW 60W 16GB ≤2 NVIDIA L4 SW 72W 24GB ≤2 | 边缘 + GPU 的折衷 |

【V7.0 P6 原句·AX-4510c GPU 段·逐字校对】 ： "SW = Single Wide N/A"

含义：AX-4510c 完全不支持任何 GPU ------这是 V7.0 spec sheet 明示的事实，v1.3 我之前写"待定"是不准确的。

§D.2.3 SKU 列表精简

|--------------|-----------------|----------------|--------------|-------------------------------------------------------|
| AX SKU | Form Factor | CPU 代际 | iDRAC | GPU 卡（最多） |
| AX-660 | 1U | 4 / 5 代 | iDRAC 9 | A2 ≤2 / L4 ≤2 |
| AX-670 | 1U | 6 代 | iDRAC 10 | L4 ≤2 |
| AX-760 | 2U | 4 / 5 代 | iDRAC 9 | A2 ≤4 / A16 ≤2 / L4 ≤4 / L40 ≤2 / L40S ≤2 |
| AX-770 | 2U | 6 代 | iDRAC 10 | A16 ≤2 / L4 ≤4 / L40S ≤2 / RTX PRO 6000 (96GB) ≤2 |
| AX-4510c | 1U sled（edge） | 3 代 Ice Lake-D | iDRAC 9 | N/A |
| AX-4520c | 2U sled（edge） | 3 代 Ice Lake-D | iDRAC 9 | A2 ≤2 / L4 ≤2 |

客户决策：

新购：以 V7.0 主清单（AX-660 / 670 / 760 / 770 + AX-4510c / 4520c）为起点

运维存量 AX-650/750/7525 ：照常维护；升级 GPU driver / firmware 仍按 Dell Update Package；不假设新 GPU 卡能装

§D.2.4 Azure Local on Dell AX 的 OS 配套

Dell 文档原句·OS 配套 ："Azure Local release: Latest Azure Local golden image from Dell Technologies available from the support matrix."

含义：Dell AX 部署的 OS 配套不是写死某个 24H2 / 2510 版本 ------而是"当下最新的 Azure Local golden image"，由 Dell 当期 Support Matrix 列出 。部署时以 Dell Support Matrix 为准，而不是按本文档写明的版本。

§D.2.5 集群拓扑

|-------------------|----------------------------------|-------------------------------|
| 拓扑 | 含义 | GPU 影响 |
| Switchless | 节点直连（无 ToR） | 集群规模受限（2~4 节点）；GPU 通信开销大 |
| Scalable | ToR 交换机 + 单独 OOB 网 + DCB 必配 | 集群上限 16 节点；GPU 拓扑 + 扩展性最好 |
| AX-4000x Edge | Rackable / Stackable（ruggedized） | 边缘部署、单点 / 微型集群 |

【企业最佳实践·GPU 拓扑选型】：

GPU 工作负载 + 小规模（2~4 节点）：Switchless 也能跑，但 GPU 通信开销大

GPU 工作负载 + 多卡（>4 节点） ：必须 Scalable + DCB 才能保性能

DCB 必配：Dell SolVe 文档原句 "Data Center Bridging (DCB) is required for all cluster deployments"

§D.3 Dell 在 GPU 上的官方 GPU-P 集成步骤

Dell官方文档与微软 azloc-2606 给的"通用 cmdlet 流程"不完全一样**。具体差异：

§D.3.1 Dell 推荐工具链（与 azloc-2606 命令行路径的差异）

|-------------|--------------------------------------------|--------------------------------------------------------|
| 步骤 | azloc-2606 推荐 | Dell SolVe 推荐 |
| 配置 GUI 入口 | Hyper-V Manager / Failover Cluster Manager | Windows Admin Center (WAC) + GPU extensions |
| 装 driver 流程 | driver installer / PowerShell | NVIDIA Application Hub（licensed enterprise portal） |
| Driver 验证 | nvidia-smi 在 host | nvidia-smi + WAC |
| License 申请 | NVIDIA Licensing Portal | 同一入口（NVIDIA portal） |

【Dell 推荐路径的明确表态】 ： "Dell Technologies recommends that you use Windows Admin Center for GPU partitioning (GPU-P)."

含义：Dell OEM 路径官方力推 WAC 而非 PowerShell。这意味着 Dell 的部署 + 运维层（OpenManage Integration extension）与 GPU 工作流都在 WAC 内自然集成。Dell 6 代 Granite Rapids SKU（AX-670 / AX-770）配 OpenManage Integration v3.5+，与 4 代机架 SKU 的 v3.3.2+ 接口略有差异------以 OpenManage 当期版本说明为准。

§D.3.2 GPU-P 完整安装流程

【Dell 官方原句】 ： "For more information, see Virtual GPU Software R570 for Microsoft Azure Local Release Notes."

这个版本号 R570 = vGPU 18.0 系列 （2024-Q4 起的版本）。本节档与下篇 §I 引用的 NVIDIA vGPU R570 完美对齐。

步骤清单：

【装 host driver 之前的关键步骤】：

"Before proceeding to install the GPU-P drivers on the host, remove any Tesla drivers, if previously installed."

下载 driver ：到 NVIDIA Application Hub （nvidia.com/）登录 enterprise 账号 → 进 NVIDIA Licensing Portal → SOFTWARE DOWNLOADS → 选 PRODUCT FAMILY: VGPU + PLATFORM: Microsoft Azure Stack HCI
每个 cluster 机器都装 host driver ：azloc-2606 + Dell 都明示------集群全节点装
NVIDIA vGPU Manager 安装按 NVIDIA 官方 "Installing and Configuring the NVIDIA Virtual GPU Manager for Microsoft Azure Local" 步骤
用 WAC 装 GPU-P ：进 GPU extension，按 azloc-2606 gpu-manage-via-partitioning 流程配置 partition
每个 VM 装 guest driver（NVIDIA vGPU Software Graphics Driver + NVIDIA Control Panel on Windows）
激活 VM license：把激活后的 VM guest 指向 DLS 或 CLS（详见下篇 §I）

§D.3.3 DDA 在 Dell AX 上的简化路径

"You can use Discrete Device Assignment (DDA) on supported GPUs so that the Azure Stack HCI operating system servers have GPU-enabled clustered VMs."

含义：DDA 在 Dell AX 上等价于 azloc-2606 通用流程------SKU 受 Azure Local Support Matrix 约束，与 GPU-P 用同等 matrix。

|--------------|-----------------------------------------------------------------------------------------------------|
| DDA 步骤关键 | Dell AX 上的特殊点 |
| 准备工作 | 必须已经 pre-configured 或 converted for GPU use（GPU 硬件已装） |
| 装 vGPU 软件 | DDA 路径不必装 vGPU 软件------DDA 走 host driver + VM guest driver 双 driver 路径，与 NVIDIA vGPU Manager 无关 |
| 分配 GPU | 可走 WAC + GPU extension（azloc-2606 也可用 WAC），或 cmdlet Add-VMAssignableDevice |
| License | DDA 不需要 license |

§D.4 ⚠️ Dell 官方对"装/拆硬件"工程警告

Dell官方原句 --- CAUTION： "Remove the BOSS card power and data cables from Riser 1 before removing the riser. The power connection is fragile."

含义：装 Riser 1 上任何硬件（包括 GPU 卡）之前，必须先拆 BOSS 卡电源 + 数据线 ------否则脆弱的电源排线可能扯断导致 BOSS 卡 / 主板损坏。这是装机时的物理层警告，不是软件层。

§D.5 OpenManage Integration extension 在 GPU 上的角色

【Dell SolVe P64 原句·OpenManage 版本】 ： "Dell OpenManage Integration with Microsoft Windows Admin Center extension version 3.4."

含义：

OpenManage Integration extension v3.4 是 SolVe PDF 当期版本（2025-12-29 modify）
V7.0 spec sheet 新增约束：**AX-670 / AX-770 配 6 代 Granite Rapids + iDRAC 10，需 OpenManage Integration extension **v3.5+****；AX-660 / AX-760 / AX-4510c / AX-4520c 配 v3.3.2+
每台 AX node 都需要 premium license------OpenManage 不再 free
OpenManage 不监控 GPU ：Dell SolVe P69 列出的 Inventory 组件是 System / Firmware / CPUs / Memory / Storage controllers / Storage enclosures / Network devices / Physical disks / Power supplies / Fans ------ 没有 GPU 一项。GPU 监控走 NVIDIA-SMI / DCGM exporter / K8s device plugin

§D.5.1 OpenManage + GPU 协同的监控栈

|-------------------------------------------|-------------------------------------------------|--------------------|
| 监控对象 | 工具 | 数据源 |
| CPU / 内存 / 存储 / 网络 / 风扇 / 电源 | OpenManage Integration extension (WAC) | iDRAC → OpenManage |
| GPU 温度 / 功耗 / 利用率 | NVIDIA-SMI（host / VM 内）+ DCGM exporter（AKS Arc） | NVIDIA driver |
| Cluster 层 GPU 健康 | Azure Arc → Insights / AzureMonitor | 组合 |
| BIOS 升级 / 固件升级 / Lifecycle Controller | OpenManage Integration extension | iDRAC |

【企业最佳实践】：

装 AKS Arc 时把 DCGM exporter 装在每台 node------这是 NVIDIA 官方推荐的 GPU 监控出口

iDRAC 是 GPU 故障告警的标准来源（Dell OEM 自动发 BIOS / iDRAC 报警）

想做"一张大屏"：Azure Arc → Insights → Grafana / Log Analytics

OpenManage + AKS Arc 集成：在 6 代 Granite Rapids SKU（AX-670 / AX-770）上 OpenManage v3.5+ 与 AKS Arc 的集成更紧密------以 Dell 当前文档为准

§D.6 企业选 Dell AX 的典型决策依据

§D.6.1 Dell 在 GPU 上的"NVIDIA GPU 选项 × OEM SKU"映射（V7.0 spec sheet 锁定的边界）

|------------------------------------------------------------------------|-----------------|--------------------|-----------------|--------------------|------------------------|
| NVIDIA GPU | AX-660 (1U) | AX-670 (1U 6代) | AX-760 (2U) | AX-770 (2U 6代) | AX-4520c (2U sled) |
| NVIDIA A2（60W, 16GB） | ≤2 | ❌ | ≤4 | ❌ | ≤2 |
| NVIDIA L4（72W, 24GB） | ≤2 | ≤2 | ≤4 | ≤4 | ≤2 |
| NVIDIA A16（250W, 64GB, DW） | ❌ | ❌ | ≤2 | ≤2 | ❌ |
| NVIDIA L40（300W, 48GB, DW） | ❌ | ❌ | ≤2 | ❌ | ❌ |
| NVIDIA L40S（350W, 48GB, DW） | ❌ | ❌ | ≤2 | ≤2 | ❌ |
| NVIDIA RTX PRO 6000 Server Edition （600W, 96GB, DW, Blackwell） | ❌ | ❌ | ❌ | ≤2 | ❌ |

【关键观察】：

RTX PRO 6000 Blackwell 96GB 只在 AX-770 上 ：这是 V7.0 spec sheet 原句明示，v1.3 文档里"AX-770 待定"是不正确的------经 V7.0 实证是真实存在且独占 SKU

AX-760 / AX-770 都支持 L4 + A16 / L40S / A2，AX-770 额外支持 RTX PRO 6000 96GB------AX-760 是当前最广泛的 GPU 选项；AX-770 是最高算力选项

AX-670 / AX-660 只支持单宽卡（A2 / L4）------1U 形态物理上限

AX-4510c 完全不支持 GPU（spec sheet 明示 N/A）

AX-4520c 仅支持 A2 / L4，是边缘唯一带 GPU 选项

§D.6.2 Dell 在 GPU 上的路径

【企业最佳实践·选 Dell AX 的 GPU SKU 路径】：

VDI 主力 ：AX-760（R760）+ NVIDIA A16（≤2 张），是 Dell PowerEdge 上 VDI 当前主流方案；AX-760 配 28×2.5" + GPU 后置不能共存（这是 spec sheet 原文明示硬约束）

LLM 推理中等模型（7B~13B） ：AX-760 + NVIDIA L40S ×2（DDA 路径，单机 96GB VRAM），或 AX-770 + L40S ×2（同样 96GB，但是 6 代 CPU + iDRAC 10 + OpenManage v3.5+）

LLM 推理大型模型（70B） ：AX-770 + NVIDIA RTX PRO 6000 96GB Blackwell ×1 （DDA 路径，单卡 96GB VRAM 即可跑 70B 模型------这是 V7.0 spec sheet 新发现的事实 ，是 Blackwell Server Edition 独有能力）；或 AX-770 + L40S ×2 = 96GB VRAM

Foundry Local / 小模型推理 ：AX-660 或 AX-760 + NVIDIA L4（≤2~4 张），是性价比主流

AKS Arc GPU 节点池 ：AX-760 + A2 ×4（≤4）------ AKS Arc 自 2408 起 A2 支持；或 AX-770 + L4 ×4 自 AKS Arc 2512

边缘 AI ：AX-4520c + A2 ×2（≤2 张），-5~55C / MIL 810H 边缘部署

OEM 决策 ：以上每行的"Dell AX 上能否装这款 GPU、装几张、物理槽位、电源余量、散热保证"以 Dell 现网 Support Matrix 为准

§D.7 AKS Arc GPU 节点池（azloc-2606 / aksarc 文档）

AKS Arc 是 Azure Local 上的 Kubernetes 集群（Arc 控制平面）。AKS Arc 跑 GPU 工作负载只支持 DDA 路径（GPU-P 不支持）。

【事实校对】：

azloc-2606 原文（gpu-preparation）："AKS Arc doesn't currently support GPU partitions."

**aksarc 文档（deploy-gpu-node-pool）**列出 AKS Arc 上 GPU 节点池的全部 SKU、时间线、kubectl 验证命令

本节档时间表：azloc-2606 明示 GPU in AKS Arc 的 GA 时间点；以 azloc-2606 当前"version: 'azloc-2606'" 为准

§E.1 AKS Arc GPU 时间线总览

|----------------------------------------------|-------------------------------------|-----------------------------|
| NVIDIA SKU | AKS Arc 开始支持 | azloc-2606 出处 |
| NVIDIA A2 | AKS Arc 版本 2311.2 | aksarc deploy-gpu-node-pool |
| NVIDIA A16 | AKS Arc 版本 2402.0 | aksarc deploy-gpu-node-pool |
| NVIDIA T4 | AKS Arc 版本 2408.0 | aksarc deploy-gpu-node-pool |
| NVIDIA L4 / L40 / L40S | AKS Arc 版本 2512.0 | aksarc deploy-gpu-node-pool |
| NVIDIA RTX Pro 6000（96GB Server Edition） | AKS Arc 版本 2603.0 | aksarc deploy-gpu-node-pool |
| NVIDIA A10 / A40 | azloc-2606 文档中未明示 ------ 不应假设可用 | azloc-2606 / aksarc |

【事实校对·逐 SKU】 ：所有"开始支持版本号"与 aksarc 文档对齐；如未来 NVIDIA / Microsoft 发布新 GPU SKU，需查 aksarc deploy-gpu-node-pool 最新版本。 【事实校对·RTX Pro 6000】：azloc-2606 文档明示"自 2603.0 开始支持"，但 2603.0 是 Azloc-2606 文档范围内的版本窗口；交付时如有更新请查 aksarc。

§E.2 AKS Arc GPU 节点池的 SKU 矩阵

§E.2.1 7 套 VM SKU 与可选 GPU（aksarc deploy-gpu-node-pool 原文）

以下 7 套 VM SKU 在 aksarc 上根据 GPU 数量配置：

|-----------------------------------------|------------------|-----------------------------|-------------|
| SKU 名称 | 显存 | 节点 OS | 备注 |
| NVIDIA A2 | 16 GB | Windows Server 2025 / Linux | GA 自 2311.2 |
| NVIDIA A16 | 64 GB（4×16GB 等价） | Windows Server 2025 / Linux | GA 自 2402.0 |
| NVIDIA T4 | 16 GB | Windows Server 2025 / Linux | GA 自 2408.0 |
| NVIDIA L4 | 24 GB | Windows Server 2025 / Linux | GA 自 2512.0 |
| NVIDIA L40 | 48 GB | Windows Server 2025 / Linux | GA 自 2512.0 |
| NVIDIA L40S | 48 GB | Windows Server 2025 / Linux | GA 自 2512.0 |
| NVIDIA RTX Pro 6000（Server Edition） | 96 GB | Windows Server 2025 / Linux | GA 自 2603.0 |

【企业最佳实践】：

Linux 是默认容器化 OS ：Windows node image 在 AKS Arc 上跑 GPU pod 比较容易撞到 Hyper-V 集成服务与 container runtime 的冲突；生产推荐 Linux node image

AKS Arc 创建 GPU node pool 时 azure-arc + nvidia-device-plugin 自动部署；不需要手工装

aksarc GPU 节点池必须先把 K8s extension 升级到 2512.0+ 才能用 L4 / L40 / L40S / Pro 6000

§E.2.2 Windows 节点池的特殊情况

aksarc deploy-gpu-node-pool 文档明示：

Windows node pools aren't supported for GPU workloads（aksarc 文档原文）

原因：Windows node image 的 DDA 通过 SMB / iSCSI 暴露给 K8s pod 时，遇到 Hyper-V Windows host 里长链 issue（DirectX、CUDA on Windows container、Kubernetes Device Plugin 的 Windows Driver Foundation 路径），所以 aksarc 不支持 Windows node pool 跑 GPU 工作负载。

【企业最佳实践】：

跑 GPU 工作负载一定用 Linux node image

AKS Arc 上跑 GPU 必须配 Linux node pool + Linux container + NVIDIA device plugin

§E.3 AKS Arc GPU 节点池部署流程（aksarc deploy-gpu-node-pool 原文步骤）

§E.3.1 准备 arc + K8s 集群

复制代码

# 假设集群已经创建（az aksarc create），查看集群名
az aksarc show -g <rg> -n <name> --query name

# 检查 extension 是否到 2512.0+
az aksarc list-upgrades -g <rg> -n <name> --output table

§E.3.2 添加 GPU node pool

复制代码

az aksarc nodepool add \
  --cluster-name <cluster-name> \
  --resource-group <rg> \
  --name gpupool \
  --node-count 1 \
  --vm-size "Standard_ND96asr_v4" \
  --gpu-sku A2

【来源标注·vm-size】：

aksarc 文档 ：GPU node pool 用 Standard_ND96asr_v4 之类 SKU；具体 sku name + 对应关系请查 aksarc 文档当前版本

本节档 vm-size 仅作示例------真实部署请以 aksarc 文档当期发布的 SKU 表为准

§E.3.3 验证 GPU node

复制代码

kubectl get nodes -o=custom-columns=NAME:.metadata.name,GPU:.status.allocatable."nvidia\.com/gpu"

预期：每个 GPU node 上 nvidia.com/gpu: <count>（例如 A2 单卡显示 1）。

§E.3.4 跑 GPU pod（NVIDIA device plugin 自动调用）

复制代码

apiVersion: v1
kind: Pod
metadata:
  name: cuda-sample
spec:
  containers:
  - name: cuda-sample
    image: nvcr.io/nvidia/k8s/cuda-sample:nbody-cuda12.4.0
    resources:
      limits:
        nvidia.com/gpu: 1

# 应用并验证 pod 拿到了 GPU
kubectl apply -f cuda-sample.yaml
kubectl logs cuda-sample
# 应输出 nbody 仿真运行结果

§E.4 AKS Arc GPU 节点池的运维要点

§E.4.1 健康监控

复制代码

# 节点上 GPU 状态
kubectl describe node <node-name>
# 节点 GPU 利用率（NVIDIA device plugin metrics）
kubectl top pod -l gpu=true

# 集群层 GPU event 监控
kubectl get events --sort-by=.metadata.creationTimestamp | grep -i gpu

§E.4.2 故障排查路径

|---------------------------|----------------------------------------------|
| 现象 | 排查方向 |
| GPU node 状态 NotReady | K8s extension 问题 / NVIDIA device plugin 部署失败 |
| pod 报 nvidia.com/gpu: 0 | 节点上没 GPU 但 pod spec 要了------调度失败 |
| nvidia-smi 在 pod 内失败 | Container 内 NVIDIA driver 与 host 不匹配 |
| 节点被 DRAIN 失败（taint） | GPU 卡被占用，与 scheduler 规则冲突 |
| Pod 创建成功但 GPU 利用率 0 | CUDA runtime 未注入；检查 image base 是否带 CUDA lib |

§E.4.3 Live Migration 与 GPU 工作负载

AKS Arc 上容器比VM 更轻量。K8s 在 host 上做的不是 Hyper-V 的 live migration，而是 K8s 的 pod reschedule------即驱逐 + 在另一个 GPU node 上重启。

【企业最佳实践】：

DDA + AKS Arc 的负载：pod 是 stateless 或 stateless-able 的（推理 / 图像处理 / 视频分析），reschedule 时 K8s 不会丢数据

StatefulSet 上的 DDA：避免在单个 GPU 上跑 StatefulSet；用 deployment / job 跑 StatefulSet

GPU node 维护：drain → 删除 GPU pod → 在其它 node 上 restart → 删除 GPU node

上篇小结（→ 下篇衔接）

上篇已经把"底座"讲完：

§A：DDA / GPU-P / vGPU 名字对齐；Live Migration 边界；vGPU 12~18.x 演进
§B：azloc-2606 硬性约束；NUMA / 亲和策略；BIOS 设置
§C：GPU 官方支持矩阵 + 选型决策树 + 部署方式反向比较
§D ：Dell AX System for Azure Local 的 GPU 集成上下文**。全文重构** ：机架 SKU 为 AX-660/670/760/770；6 代 Granite Rapids 平台 AX-670 + AX-770；RTX PRO 6000 Blackwell 96GB 600W 仅 AX-770；AX-4510c N/A；AX-4520c 仅 A2/L4；AX-4000x 是边缘系列；OpenManage v3.3.2+ 与 v3.5+；'V7.0 不再列于 spec sheet'，以 Dell Support Matrix 为准）
§E：AKS Arc GPU 节点池 7 套 SKU + 时间线 + Linux only + 部署 + 运维

下篇（ azure-local-gpu-lower.md ）要做的事：

§F：实际操作流程------Hyper-V 上 DDA / GPU-P 部署 VM 的 cmdlet、磁盘 + 网络 + MMIO 配置
§G：应用场景------Foundry Local（ONNX-GenAI / vLLM 双引擎）/ Agentic Retrieval / 视频分析 / VDI / RDSH 的场景选择
§H：避坑清单（不要做 / 一定要做 / 选型决策）
§I ：NVIDIA vGPU License 授权与 License Server 部署（NLS / DLS / CLS）------这是最复杂的一块
§J：附录（参考文档层级 / 推荐阅读 / 文档版本历史）

→ azure-local-gpu-lower.md （下篇 · 部署、场景、避坑、License、附录）

Azure Local GPU 部署与企业应用场景指南（上篇 ）

§A. 概念边界（先把名字对齐）

§A.1 GPU 共享模式的家族树

§A.1.1 GPU-P 与 SR-IOV 的精确关系

§A.1.2 GPU-P = GPU Partition 模型（不是"时间分片"）

§A.2 三个核心概念厘清（卡在很多读者面前的混淆）

§A.2.1 DDA 不等于"另一种 GPU-P"

§A.2.2 vGPU ≠ Azure Local GPU-P

§A.2.3 Live Migration：两个模式的硬差

§A.3 时间线：vGPU 12 ~ vGPU 18.x 的演进（NVIDIA 官方）

§A.4 Cluster 端一致性硬要求

§A.4.1 Driver / Firmware / VBIOS 三层一致性

§A.4.2 Cluster Validation 与 GPU

§A.5 PCIe Slot 与 MMIO 约束

§A.5.1 PCIe Slot 物理要求

§A.5.2 MMIO 简要预告（下篇详述）

§A.6 MIG vs GPU-P 的精确边界

§A.7 三模式对照表

§A.8 GPU 部署决策树

§B. 微软官方硬性约束（azloc-2606 system-requirements + gpu-preparation）

§B.1 主机硬件要求（azloc-2606 system-requirements 原文）

§B.1.1 BIOS 设置关键项（azloc-2606 system-requirements）

§B.2 GPU 拓扑约束（azloc-2606 gpu-preparation 原文）

§B.2.1 NUMA 与 GPU 拓扑的检查命令

§B.3 一个物理 GPU 不能同时是 DDA 又被 GPU-P 切（azloc-2606 原文）

§B.4 Azure Local 在 GPU 上的整机编排边界

§B.4.1 调度器对 GPU 的"看不见"特性

§B.4.2 DDA 与 GPU-P 上的 GPU Power State（P-State）行为

§C. GPU 型号支持矩阵（azloc-2606 gpu-preparation 官方表格）

§C.1 官方支持矩阵总览

§C.1.1 DDA 支持最深的两条路线

§C.2 按场景选 GPU 的决策树

§C.3 部署方式的反向比较

§D. Dell AX System for Azure Local（OEM 集成上下文）

§D.1 官方品牌名称与产品体系

§D.2 当前 Dell AX SKU 完整矩阵（V7.0 Spec Sheet 原句校对）

§D.2.1 机架式 SKU 完整对照（V7.0）

§D.2.2 紧凑 / 边缘 SKU（V7.0 P6 原句）

§D.2.3 SKU 列表精简

§D.2.4 Azure Local on Dell AX 的 OS 配套

§D.2.5 集群拓扑

§D.3 Dell 在 GPU 上的官方 GPU-P 集成步骤

§D.3.1 Dell 推荐工具链（与 azloc-2606 命令行路径的差异）

§D.3.2 GPU-P 完整安装流程

§D.3.3 DDA 在 Dell AX 上的简化路径

§D.4 ⚠️ Dell 官方对"装/拆硬件"工程警告

§D.5 OpenManage Integration extension 在 GPU 上的角色

§D.5.1 OpenManage + GPU 协同的监控栈

§D.6 企业选 Dell AX 的典型决策依据

§D.6.1 Dell 在 GPU 上的"NVIDIA GPU 选项 × OEM SKU"映射（V7.0 spec sheet 锁定的边界）

§D.6.2 Dell 在 GPU 上的路径

§D.7 AKS Arc GPU 节点池（azloc-2606 / aksarc 文档）

§E.1 AKS Arc GPU 时间线总览

§E.2 AKS Arc GPU 节点池的 SKU 矩阵

§E.2.1 7 套 VM SKU 与可选 GPU（aksarc deploy-gpu-node-pool 原文）

§E.2.2 Windows 节点池的特殊情况

§E.3 AKS Arc GPU 节点池部署流程（aksarc deploy-gpu-node-pool 原文步骤）

§E.3.1 准备 arc + K8s 集群

§E.3.2 添加 GPU node pool

§E.3.3 验证 GPU node

§E.3.4 跑 GPU pod（NVIDIA device plugin 自动调用）

§E.4 AKS Arc GPU 节点池的运维要点

§E.4.1 健康监控

§E.4.2 故障排查路径

§E.4.3 Live Migration 与 GPU 工作负载

上篇小结（→ 下篇衔接）

Azure Local GPU 部署与企业应用场景指南（上篇）