研三即将毕业，后续的工作可能会偏AI方向的计算机视觉方面，因此准备了两条线来巩固计算机视觉基础。
一个是本系列，阅读经典《Deep Learning for Vision System》，做一些总结跑一些例子，也对应本系列文章
二是OpenCV实践系列，根据官方自学OpenCV使用方法，对应"OpenCV-Python自学系列"。
后续准备在实际项目中引入一些目前的大模型的东西，视觉语言模型在传统CV任务上的理解和实践等。
本期主要包括基础知识和深度学习介绍。本篇主要以概念为主
一、计算机视觉通识
1.1 计算机器视觉
视觉系统：传感设备 + 解释设备
1.2 计算机视觉的应用
略
1.3 计算集视觉处理流程
计算机视觉处理流程：输入数据------预处理------特征提取------机器学习模型。
以图像分类算法为例，其流程为：从视觉设备输入一张图像、对图像进行预处理（标准化、重采样、模糊、旋转、颜色变换等等）、特性提取（输出为特征向量）、将特征喂到分类模型中、输出概率（该概率代表输入相片是该类别的概率）
1.4 图像输入
图像坐标系：原点为最左上角，横着为x，向右为正；竖着为y，向下为正。（注意，在代码张对图像数据，也即矩阵，进行索引时，仍然按照直观上的行列进行索引）。
图像映射：图像时多层矩阵的组合，每个矩阵中的元素值可看作该点坐标的映射，也即z=f(x,y)，z表示坐标为（x，y）的像素值。
通道：通常情况下，灰度图像为单通道，取值范围0-255，0为黑色，255为白色。彩色图像由三通道组成，R（红色）G（绿色） B（蓝色）。
1.5 图像预处理
**预处理一：**将图像由彩色转化为灰度降低计算复杂性。对于那些颜色不是很重要的特征而言，可使用该方法。
**预处理二：**重采样固定模型输入尺寸。
**预处理三：**数据增强。
等等。。。
理论：没有一个方法或一个策略能适合于所有的任务。
1.6 特征提取
特征定义：
++在机器学习过程中，我们希望将原始数据转换为特征向量（一维向量，能简单表示整个类别），再将特征向量展示于我们的学习算法++。
如何选择一个好的特征（如何提取出好的特征）？
传统特征提取和DL的区别：
二、深度学习基础
2.1 理解感知机
感知机的构成主要包括以下几个方面：输入向量、权重向量、神经函数、输出。如图
感知机如何进行学习：感知机通过测试和误差从他的错误中进行学习。
2.2 多层感知机
单层的感知机能力有限（线性问题），无法解决复杂情况的问题。因此使用多层神经元的感知机，也即多层感知机。关于多层感知机的概念需要清楚的是：
隐含层的数量：输入层于输出层之间的网络被称为隐含层，隐含层越多其模型拟合能力越强，但容易过拟合。
激活函数：在某个神经元进行加权求和后进行映射操作，是神经网络具备非线性拟合能力的关键。
误差函数：用于衡量模型的预测结果和真实结果之间差距的函数。
优化器：基于模型现有误差对模型进行调整的优化算法。
Batch-Size：采用MiniBatch方式进行训练的情况下，每个批次的包含样本的多少。
训练轮数：整个训练进行的轮次数。
学习率：（优化过程中）学习速度的控制。
2.3 激活函数
激活函数的目的：往神经网络中引入非线性。
线性激活函数：
步型函数：
Sigmoid函数：将无限连续的变量转移到简单的0-1之间的概率。广泛用于分类中。
softmax函数：对Sigmoid函数的泛化，Sigmoid只能处理单类问题，而sigmoid能处理多类型分类中的概率计算问题。
tanh函数： ++这个函数在隐含层中表现往往比sigmoid函数更好，因为使用tanh会使得数据的均值更接近于0而不是sigmoid的0.5，使得后续的训练更加简单。++
ReLU函数：ReLU函数被认为是目前最优秀的（state-of-the-art）的激活函数。
**Leaky ReLU函数：**虽然用得不多，但通常略优于ReLU，主要是在小于0是提供了小幅度的导数。
2.4 前馈过程
神经网络的前馈过程，加权求和（矩阵乘法）------激活函数------加权求和------激活函数...
其计算过程可表示为：
表示矩阵乘法可为：
2.5 误差函数
常用的误差函数主要由两大类，MSE（Mean Square Error）和Cross Entropy Error。
MSE主要用于回归问题，用于衡量两个向量在空间中的欧式距离的大小。
交叉熵函数（Cross Entropy Error）：量化预测概率和目标概率之间的差距。
参数描述如下：
2.6 优化算法
Batch Gradient Descent：逐步的根据梯度信息对误差进行优化。
++梯度：其方向代表了误差下降最快的方向，梯度仅仅提供误差下降的方向信息。++
学习率：决定了迭代速度。
Batch GD ：**将所有数据放在一个Batch中，进行训练，**每一个参数更新都是计算了所有训练数据集后的结果。
Stochastic Gradient Descent（SGD）：在每次参数更新时只随机选择一组样本数据计算误差。
在实际应用中SGD表现要由于Batch GD。
Mini-Batch Gradient Descent（MBGD）：将数据集按一定的尺寸分割为不同批次，每计算一个批次就进行一次参数更新。
其余优化算法：Adam、Adagrad、RMSprop等...
2.7 反向传播
根据链式求导法制对每个参数求偏导，获得梯度，进而计算其参数的改正值。
对网络中某个参数的求解可如下：
相当较为基础，笔记较为简略，欢迎批评交流。
下一期：卷积
共勉。