Pytorch 6

罗切斯特回归模型

加了激活函数

加了激活函数之后类

class LogisticRegressionModel(torch.nn.Module):
    def __init__(self):
        super(LogisticRegressionModel, self).__init__()
        self.linear = torch.nn.Linear(1,1)
 
    def forward(self, x):
        # y_pred = F.sigmoid(self.linear(x))
        y_pred = torch.sigmoid(self.linear(x))
        return y_pred

这里以sigmoid激活函数为例，具体的激活函数还是查资料

损失函数

criterion = torch.nn.BCELoss(size_average = False) 

也是接受一个参数，是否求平均值

求平均值会影响到dw和db是否要乘1/n，会影响到学习率的设置，如果求均值则偏导也有1/n