Pytorch 6

罗切斯特回归模型

加了激活函数

加了激活函数之后类

python 复制代码
class LogisticRegressionModel(torch.nn.Module):
    def __init__(self):
        super(LogisticRegressionModel, self).__init__()
        self.linear = torch.nn.Linear(1,1)
 
    def forward(self, x):
        # y_pred = F.sigmoid(self.linear(x))
        y_pred = torch.sigmoid(self.linear(x))
        return y_pred

这里以sigmoid激活函数为例,具体的激活函数还是查资料

损失函数

python 复制代码
criterion = torch.nn.BCELoss(size_average = False) 

也是接受一个参数,是否求平均值

求平均值会影响到dw和db是否要乘1/n,会影响到学习率的设置,如果求均值则偏导也有1/n

相关推荐
deephub12 分钟前
RAG 文本分块:七种主流策略的原理与适用场景
人工智能·深度学习·大语言模型·rag·检索
newBorn_199112 分钟前
ops-transformer RoPE位置编码 复数旋转硬件加速实战
人工智能·深度学习·transformer·cann
宁远x18 分钟前
Flash Attention原理介绍与使用方法
人工智能·深度学习·机器学习
宁雨桥22 分钟前
打造你的专属AI技能包:如何高效使用和自定义 Skills
人工智能·ai编程·skills
ASKED_201928 分钟前
企业级大模型微调(Fine-tuning)策略
大数据·人工智能·算法
myzzb1 小时前
纯python 最快png转换RGB截图方案 ——deepseek
开发语言·python·学习·开源·开发
宸迪1 小时前
【python】使用uv管理项目包依赖
linux·python·uv
数字时代全景窗1 小时前
是太空算力需要SpaceX,还是SpaceX需要太空算力?
人工智能·软件工程
qq_448011161 小时前
python中的内置globals()详解
开发语言·python
weixin_440401691 小时前
Coze-智能体Agent(工作流:自定义插件+选择器+知识库检索+大模型润色)
python·ai·coze