以手写输入作为例子,为简单,只区分0和1,所以这是一个二分类问题,我们输入一张图片,输出数字0还是1,是一个8*8的一个像素图片,64个像素组成的网格矩阵,其中255表示白色,0表示黑色像素不同的数字表示不同的灰度,给予这两个特征我们使用具有两个隐藏层的神经网络,其中一个具有25个神经元,或者25个单元,第二个隐藏有有15个神经单元,最后输出层输出这是0还是1的概率,
让我们计算是从x到a1,因为有25个神经元,所以参数是用w1到w25,这样我们就得到了a1,
下一步就是计算a2其中a1就是第二层的输入,我们用w2乘以a1然后加上第二层的偏置,用sigmoid函数,第二层有15个神经元,所以对应的参数也有15个,对此我们计算的到了a2
然后我们用相似的计算得到了a3,这是到了输出层, 只有一个神经元,所以a3是一个标量,然后可以对a3进行阈值化,得到二分类标签,
如上图所示,我们从右到左进行计算,依次得到a1,a2,a3所以叫做前向传播,
与另一种方法反向反驳形成对比,后者用于学习,
这种神经架构网络,在初始阶段有很多的隐藏单元,如然后随着越接近输出层,隐藏单元越少,这也是选择神经网络架构的典型选择,