深度学习系统 - 深度学习系统技术,学习,经验文章

victory0431

4 小时前

梯度计算反向传播会不会缓存loss的求导公式PyTorch 不会缓存“符号级的求导公式” 但它会在 forward 时动态构建计算图，在 backward 时高效复用“局部梯度规则”