第一周
1、修正线性单元ReLU
第二周、Logistic回归
1、样本矩阵X:
是一个m*nx的矩阵,表示m个样本(一个竖列代表一个样本),每个样本有nx个特征。
2、标签矩阵Y:[y1,y2,y3,ym]
m个训练样本分别对应的标签。
3、模型
X为输入样本, 为预测值输出,;
4、损失函数
定性分析:y=1时, , 越大损失函数越小
y=0时, , 越小顺势函数越小
为什么损失函数不用 因为是非凸的,梯度下降时可能有多个局部最优值。
5、成本函数
损失函数是针对一个样本的情况,成本函数是针对整个样本的情况,是每个样本损失函数的平均值。
6、梯度下降,迭代