卷积神经网络基础

全连接层

BP(back propagation)算法包括信号的前向传播和误差的反向传播两个过程。即计算误差输出时按从输入到输出的方向进行,而调整权值和阈值则从输出到输入的方向进行。

**误差值:**将输出值和所期望的值进行对比,可以得到误差值。

实例:利用BP神经网络做车牌数字识别

读入一张彩色的RGB图像,可以看到每一个像素里都包含了三个值,即RGB分量。

首先进行灰度化,灰度化之后得到中间这幅图,它的每一个像素值都只有一个分量了。

再进行二值化处理,得到黑白图像,也就是最右边的这个图像。

用一个五行三列的滑动窗口 对整个图像进行滑动,每滑动一个地方就计算白色的像素占整个像素的比例。按照这个方法遍历整个图像就得到了一个5×5的矩阵。

接着我们将5×5的矩阵按行进行展开,并把它拼接成一个行向量。一行一行的展开后得到一个一行25列的行向量。这样我们可以把这个行向量当成我们输入神经网络的输入层

有了输入层后,我们来看下我们的**输出层。**one-hot编码是我们常用的对标签进行编码的一种方式。比如说如图我们期望他们输出的是0到9这么十个数值。

onehot好像是除了目标其余全部写0,比如一行10个位置,分别代表0-9,如果推测目标是8,那么就在第九个空位写1,其余九个空位全部写0。

我们有了输入和期望的输出,就能对网络进行训练了。

卷积层

卷积特性

  • 拥有局部感知机制
  • 权值共享

对比普通的BP神经网络(理解全连接层的全值共享)

参数

连接层之间的权重参数

输入特征矩阵

  • 卷积核的channel与输入特征层的channel相同
  • 输出的特征矩阵channel与卷积核个数相同

激活函数

为什么要引入激活函数

引入非线性因素,使其具备解决非线性问题的能力。

建议

训练过程当中,建议不要一开始就使用特别大的学习率进行学习,这样很可能导致很多神经元失活。

几个因素决定卷积后的尺寸

池化层

和卷积层比较类似,但是和卷积层比起来会简单很多。

poolsize:池化核大小

stride:步距大小

相关推荐
深度之眼2 分钟前
【Nature高分思路速递】 物理驱动的机器学习
人工智能·机器学习·pinn
lingran__7 分钟前
算法沉淀第三天(统计二进制中1的个数 两个整数二进制位不同个数)
c++·算法
甜辣uu12 分钟前
【源码讲解+复现】YOLOv10: Real-Time End-to-End Object Detection
人工智能·yolo·目标检测·nms-free
胖达不服输30 分钟前
「日拱一码」105 机器学习原子间势能MLIP
人工智能·机器学习·机器学习原子间势能·mlip
MicroTech202538 分钟前
微算法科技MLGO推出隐私感知联合DNN模型部署和分区优化技术,开启协作边缘推理新时代
科技·算法·dnn
小冯记录编程1 小时前
深入解析C++ for循环原理
开发语言·c++·算法
sight-ai1 小时前
超越基础:SightAI 智能路由与多模型选择实战
人工智能·开源·大模型·api
OpenVINO 中文社区1 小时前
端侧AI创新挑战赛正式启动
人工智能
取酒鱼食--【余九】2 小时前
深度学习经典网络解析:ResNet
网络·人工智能·深度学习·神经网络·resnet·卷积神经网络·残差神经网络
搞科研的小刘选手2 小时前
【通信&网络安全主题】第六届计算机通信与网络安全国际学术会议(CCNS 2025)
大数据·人工智能·网络安全·vr·通信工程·网络技术·计算机工程