第一周
1、修正线性单元ReLU

第二周、Logistic回归
1、样本矩阵X:

是一个m*nx的矩阵,表示m个样本(一个竖列代表一个样本),每个样本有nx个特征。
2、标签矩阵Y:[y1,y2,y3,ym]
m个训练样本分别对应的标签。
3、模型

X为输入样本, 为预测值输出,
;
4、损失函数

定性分析:y=1时, ,
越大损失函数越小
y=0时, ,
越小顺势函数越小
为什么损失函数不用 因为
是非凸的,梯度下降时可能有多个局部最优值。
5、成本函数
损失函数是针对一个样本的情况,成本函数是针对整个样本的情况,是每个样本损失函数的平均值。
6、梯度下降,迭代
