一、背景

伴随着大模型的爆火，也带火了一家公司 NVIDIA，主要是因为大模型的训练、计算等离不开大算力：GPU，而NVIDIA是一家领先的科技公司，以设计高性能图形处理单元（GPU）而闻名，广泛应用于游戏、人工智能和数据中心等领域。

为什么大模型离不开GPU，而GPU 和CPU又有什么区别呢？本篇就来解决这些问题

二、CPU 和 GPU 的历史

2.1 CPU 产生的背景

CPU的发明背景主要源于对计算效率和自动化的需求。早期计算机使用机械或电子元件，比如真空管，进行计算，效率低且编程繁琐，且易损坏。20世纪中期，随着集成电路技术的发展，科学家们希望通过将计算机的多个功能整合到一个芯片上，提高计算速度和可靠性，最终导致了中央处理器（CPU）的出现。这种设计使得计算机能够更快速地执行程序，推动了计算机技术的快速发展和普及。

2.2 GPU 产生的背景

GPU的发明背景源于对图形处理性能的需求。随着计算机图形技术的发展，游戏和视觉应用对图形渲染的要求不断提高，传统的中央处理器（CPU）无法高效处理复杂的图形任务。因此，在1990年代初，NVIDIA等公司开始研发专门的图形处理单元（GPU），以实现更快的图形渲染和更高的并行处理能力。这一创新不仅提升了游戏和视觉效果，还推动了科学计算和深度学习等领域的发展。

三、 GPU vs CPU

CPU	GPU
中央处理器	图形处理器
多核	多核
低延迟	高吞吐量
适合串行处理	适合并行处理
可以同时执行多项操作	可以同时执行数千个操作

从架构上看，CPU 仅由几个内核和大量缓存组成，每次只能处理几个软件线程。相比之下，GPU 则由数百个内核组成，可以同时处理数千个线程。

四、GPU 应用

计算机图形学是众多应用中的第一款，杀手级应用，它推动了 GPU 背后巨大的研发引擎向前发展。
人工智能与游戏：GPU 驱动的深度学习全面展开由于 NVIDIA GPU 中加入了专用的Tensor Core，深度学习能力得到了加速。Tensor Core 可加速大型矩阵运算（AI 的核心），并在单个运算中执行混合精度矩阵乘法和累加计算。这不仅可以加速各种传统 AI 任务，现在还可用于加速游戏。
在汽车行业，GPU 具有诸多优势。正如您所期望的那样，它们提供无与伦比的图像识别功能。但它们也是打造能够从大量不同的现实场景中学习并适应的自动驾驶汽车的关键。
在机器人领域，GPU 是让机器感知周围环境的关键，这一点并不令人意外。然而，它们的 AI 能力已成为机器学习复杂任务（如自主导航）的关键。
在医疗保健和生命科学领域，GPU 具有诸多优势。当然，它们非常适合成像任务。但基于 GPU 的深度学习可加快这些图像的分析速度。它们可以处理医疗数据，并通过深度学习将这些数据转化为新功能。
大模型