第2章GPU的身份证:一张显卡上都有啥

|----------------|-----------|------------|---------------------------------|
| 🏆 本章境界 炼气期第2层 | 📊 难度指数 ⭐ | ⏱ 预计阅读 6分钟 | 💎 本章金句 显卡不只是一块PCB,它是一个完整的计算... |

|----------------------------------------------------------------------------|
| |

▎ 一、GPU核心:显卡的大脑

显卡上最核心的部件就是GPU核心(GPU Die),它是显卡的大脑,所有计算都在这里完成。GPU核心通常是一个巨大的硅芯片,面积可达800+平方毫米(比CPU核心大得多),包含几百亿个晶体管。以NVIDIA H100为例,核心面积814平方毫米,包含800亿个晶体管,有16896个CUDA核心、528个Tensor核心、132个RT核心。GPU核心被安装在PCB中央,上面覆盖着散热底座,通过热管把热量传导到鳍片,再由风扇吹走。

GPU核心内部的组织架构:GPU内部有多个流式多处理器(SM,Streaming Multiprocessor),每个SM包含若干个CUDA核心、Tensor核心、RT核心、寄存器文件、共享内存、L1缓存、Warp调度器等。以H100为例,有132个SM,每个SM有128个CUDA核心、4个Tensor核心、1个RT核心。SM是GPU的基本调度单位,每个SM可以同时执行多个Warp(32个线程为一个Warp),通过快速切换Warp来隐藏延迟。这种大规模并行架构是GPU高算力的来源。

|-----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|
| 💡 修仙金句 GPU核心为什么这么大?因为它要塞下几千个计算核心。CPU核心面积大约20-50平方毫米(含缓存),而GPU核心面积600-800平方毫米,是CPU的十几倍。GPU把大部分面积都用来放计算核心(ALU)和缓存,而CPU把大量面积用来放缓存(L2/L3)和控制逻辑。这就是设计哲学的差异:CPU用大缓存+复杂控制追求低延迟,GPU用大量计算核心+简单控制追求高吞吐量。 |

▎ 二、显存:GPU的记忆

显存(VRAM,Video RAM)是GPU专用的内存,用来存储GPU需要处理的数据(模型权重、激活值、纹理、帧缓冲等)。显存和系统内存(DRAM)类似,但有几个关键区别:①带宽更高------显存通常用GDDR或HBM,带宽可达1-3TB/s,而系统内存DDR5带宽只有50-100GB/s,差了10-30倍;②延迟更高------显存延迟比系统内存高,因为GPU核心数量多,访存竞争激烈;③容量更小------消费级显卡显存通常8-24GB,数据中心GPU 40-80GB,而系统内存可以几百GB到几TB;④价格更贵------显存成本占显卡总成本的30%-50%,HBM显存尤其昂贵。

显存类型:①GDDR(Graphics DDR)------消费级显卡主流,GDDR6带宽可达500-1000GB/s,GDDR6X可达1000-1500GB/s;②HBM(High Bandwidth Memory)------数据中心GPU主流,HBM3带宽可达2-3TB/s,HBM3e可达3-4TB/s,通过3D堆叠和超宽总线(1024-bit+)实现超高带宽;③LPDDR------移动/低功耗场景,笔记本和轻薄本用。显存容量决定了GPU能处理多大的模型和数据,AI大模型训练对显存容量需求极高,这也是为什么数据中心GPU显存越来越大(从16GB到40GB到80GB到192GB)。

|---------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|
| 📌 显存参数速查 • GDDR6:消费级主流,带宽500-1000GB/s,容量8-24GB,RTX 30/40系列用 • GDDR6X:高端消费级,带宽1000-1500GB/s,RTX 3090/4080/4090用 • HBM2e:数据中心,带宽1-2TB/s,A100用(40/80GB) • HBM3:新一代数据中心,带宽2-3TB/s,H100用(80GB) • HBM3e:最新,带宽3-4TB/s,H200用(141GB) • HBM4:下一代,预计带宽5-6TB/s,B200后续用 • 关键指标:带宽(影响数据传输速度)、容量(影响能处理的模型大小)、延迟(影响访问效率) |

▎ 三、供电、散热与接口

供电电路:GPU是电老虎,高端显卡功耗可达300-700W(H100 700W,RTX 4090 450W)。显卡上有复杂的供电电路(VRM,电压调节模块),把12V输入转换成GPU核心需要的0.8-1.2V电压,同时提供几百安培的电流。供电电路包括PWM控制器、MOSFET、电感、电容,通常有十几相到二十几相供电。供电质量直接影响GPU的稳定性和超频潜力,低端卡供电缩水会导致高负载不稳定。

散热系统:GPU功耗高,发热量大,需要强大的散热。消费级显卡通常用风冷(风扇+热管+鳍片),高端卡用三风扇+大面积鳍片+均热板,有些旗舰卡甚至用水冷。数据中心GPU用被动散热(服务器风道)或液冷(冷板式/浸没式)。散热设计直接影响GPU的持续性能------如果散热不好,GPU会降频(Thermal Throttling)保护自己,性能下降。所以买显卡不要只看核心频率,还要看散热设计。

接口:①PCIe接口------显卡通过PCIe插槽和主板连接,PCIe 4.0 x16带宽约32GB/s,PCIe 5.0 x16约64GB/s,用于CPU和GPU之间的数据传输;②视频输出接口------HDMI、DisplayPort,用于连接显示器输出画面;③NVLink------NVIDIA数据中心GPU之间的高速互联,带宽可达900GB/s,用于多GPU直接通信;④供电接口------传统8pin/16pin(12VHPWR),数据中心用SXM模组或OAM模组直接从主板供电。

|----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|
| 💡 修仙金句 买显卡看什么?很多人只看GPU型号和显存容量,忽略了供电和散热。同样是RTX 4090,不同品牌的非公版性能差距可达5%-10%,主要差在供电和散热。供电相数多、MOSFET品质好、散热鳍片大、风扇风压高的卡,能持续跑在更高频率,性能更强也更安静。所以买显卡不要只看核心型号,还要看供电相数、散热规格、品牌口碑。当然,公版卡的设计通常最保守最稳定,非公版卡有更好的散热但也可能有设计缺陷。 |

|-----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|
| 📝 本章小结 显卡由GPU核心(大脑,几百亿晶体管,几千个CUDA核心,多个SM并行)、显存(记忆,GDDR/HBM,带宽1-4TB/s,容量8-192GB,成本占30%-50%)、供电电路(心脏,十几相到二十几相VRM,提供几百安培电流)、散热系统(肺,风冷/液冷,影响持续性能)、接口(PCIe/NVLink/视频输出/供电)组成。买显卡不仅看核心型号,还要看供电和散热。 |
| ⚡ 境界提升 了解显卡的硬件组成,知道GPU核心、显存、供电、散热、接口各自的作用和关键参数 |
| 🔮 下章预告 下一章学习GPU vs CPU------为什么AI训练要用GPU?从架构差异到并行计算,深入分析。 |

相关推荐
服务器硬件项目经理2 小时前
《超节点修仙录》· 第一卷·炼气期【第01话】 什么是超节点?——从「一台电脑不够用」说起
服务器·嵌入式硬件·gpu算力·硬件
行思理2 小时前
个推厂商应用开通指南
运维·服务器·uni-app·个推·uni-app push
l1t2 小时前
DeepSeek总结的本地优先的分析不需要数据库服务器
运维·服务器·数据库·人工智能·duckdb
a5986523 小时前
无公网IP,ARM服务器搭建云手机远程访问方案
服务器·arm开发·tcp/ip·云手机
张文君4 小时前
vmware克隆后ubuntu26.04 ip怎么更改
linux·运维·服务器
ACP广源盛139246256735 小时前
HDMI2.1 同源双屏方案选型,GSV6502@ACP 工程评估笔记
笔记·硬件架构·音视频·硬件工程·hdmi·国产芯片
Brilliantwxx5 小时前
【Linux】基础IO(下):输出重定向、dup2 与 minishell 重定向实战
linux·运维·服务器·github·bash
小HANN5 小时前
(架构 + InnoDB 事务 MVCC):《MySQL 底层探秘①:拆解 InnoDB,读懂事务、MVCC 与日志的底层逻辑》
linux·运维·服务器·经验分享
kyle~5 小时前
Linux --- 虚拟内存 1.fork、2.COW、3.mmap、4.page fault、5.TLB、6.页表
linux·运维·服务器