- CPU 与 GPU 性能对比
CPU:核心少,线程多,适合复杂逻辑、分支判断,以及少量数据的计算。
GPU:核心极多,线程多,适合大规模并行计算(如图像处理、深度学习矩阵运算)。
关键指标:
CPU:核心数、线程数、主频、缓存。
GPU:CUDA 核心数、显存大小、显存带宽、算力
2.GPU 训练的方法
PyTorch 中 GPU 训练的核心是将 "模型" 和 "数据" 都移动到 GPU 设备上,步骤如下:
(1)确定可用 GPU 设备:

(2)模型移动到 GPU:

(3)数据(张量 / 数据集)移动到 GPU:

3.类的 call 方法
在 Python 中,call 让类实例可以像函数一样被调用。
在 PyTorch 中,nn.Module 实现了 call,调用时会自动执行 forward() 方法,并做额外的 hook、参数管理等。
所以可以写:

4.对比不同loss记录频率对训练耗时的影响


