前向传播

幻风_huanfeng

每天五分钟深度学习：如何使用计算图来反向计算参数的导数？在上一个课程中，我们使用一个例子来计算函数J，也就相当于前向传播的过程，本节课程我们将学习如何使用计算图计算函数J的导数。相当于反向传播的过程。

Pytorch神经网络的模型架构(nn.Module和nn.Sequential的用法)目录一、层和块二、自定义块三、顺序块四、在前向传播函数中执行代码五、嵌套使用六、总结在构造自定义块之前，我们先回顾一下多层感知机的代码。下面的代码生成一个网络，其中包含一个具有256个单元和ReLU激活函数的全连接隐藏层，然后是一个具有10个隐藏单元且不带激活函数的全连接输出层。

聊聊神经网络模型传播计算逻辑预训练过程就是在不断地更新权重超参数与偏置超参数，最后选择合适的超参数，生成超参数文件。上一篇博客是使用已有的预训练超参数文件，要训练自己的超参数，需要对神经网络层中前向传播与反向传播计算熟悉，了解计算逻辑，才能不断地更新选择合适的超参数。