Pytorch 6

罗切斯特回归模型

加了激活函数

加了激活函数之后类

python 复制代码
class LogisticRegressionModel(torch.nn.Module):
    def __init__(self):
        super(LogisticRegressionModel, self).__init__()
        self.linear = torch.nn.Linear(1,1)
 
    def forward(self, x):
        # y_pred = F.sigmoid(self.linear(x))
        y_pred = torch.sigmoid(self.linear(x))
        return y_pred

这里以sigmoid激活函数为例,具体的激活函数还是查资料

损失函数

python 复制代码
criterion = torch.nn.BCELoss(size_average = False) 

也是接受一个参数,是否求平均值

求平均值会影响到dw和db是否要乘1/n,会影响到学习率的设置,如果求均值则偏导也有1/n

相关推荐
清水白石00822 分钟前
Python 纯函数编程:从理念到实战的完整指南
开发语言·python
twilight_46926 分钟前
机器学习与模式识别——机器学习中的搜索算法
人工智能·python·机器学习
冰西瓜60035 分钟前
深度学习的数学原理(十)—— 权重如何自发分工
人工智能·深度学习·计算机视觉
niuniudengdeng43 分钟前
基于时序上下文编码的端到端无文本依赖语音分词模型
人工智能·数学·算法·概率论
Jia ming1 小时前
《智能法官软件项目》—罪名初判模块
python·教学·案例·智能法官
Jia ming1 小时前
《智能法官软件项目》—法律文书生成模块
python·教学·案例·智能法官软件
曦月逸霜2 小时前
Python数据分析——个人笔记(持续更新中~)
python
海棠AI实验室2 小时前
第六章 从“能用”到“能交付”的关键一刀:偏好对齐(Preference Alignment)数据工程
python·私有模型训练
百锦再2 小时前
Java多线程编程全面解析:从原理到实战
java·开发语言·python·spring·kafka·tomcat·maven
Soonyang Zhang2 小时前
flashinfer attention kernel分析
人工智能·算子·推理框架