逻辑回归机器学习

线性组合的基础上加上非线性变换

y=kx+b

torch.nn.linear(input,output)

torch.sigmoid(input)

torch.nn.BCELoss()



复制代码
import numpy as np
import torch
import matplotlib.pyplot as plt
from onnxslim.core import optimize

x = np.linspace(-5,5,20, dtype=np.float32)//-5,5之间随机生成20个数
_b=1/(1 + np.exp(-x))//通过变换得到_b
y = np.random.normal(_b,0.005)//在此基础上加上0.05的噪声来获得y

x = np.float32(x.reshape(-1,1))
y = np.float32(y.reshape(-1,1))


复制代码
class LogicRegressionModel(torch.nn.Module):
    def __init__(self, input_dim, output_dim):
        super(LogicRegressionModel, self).__init__()
        self.linear = torch.nn.Linear(input_dim, output_dim)

    def forward(self, x):
        out = torch.sigmoid(self.linear(x))//sigmoid 函数的作用是将输入的实数映射到区间 (0, 1) 上。在神经网络中,激活函数可以引入非线性因素,使得网络能够学习和表示复杂的模式。对于逻辑回归模型来说,sigmoid 函数将线性层的输出转换为一个概率值,即表示输入属于某一类别的可能性。在这段代码中,torch.sigmoid(self.linear(x)) 就是将线性层的输出通过 sigmoid 函数进行变换,得到最终的输出 out,这个 out 的值在 0 到 1 之间,可以被解释为一个概率预测值。
        return out


复制代码
input_dim = 1
output_dim = 1
model = LogicRegressionModel(input_dim, output_dim)
criterion = torch.nn.BCELoss()在二分类问题中,我们希望模型输出一个概率值,表示输入样本属于正类的可能性。二元交叉熵损失就是用来衡量模型预测的概率值与真实标签(通常为 0 或 1,表示负类和正类)之间的差距。如果模型预测的概率值与真实标签越接近,那么二元交叉熵损失就越小;反之,损失就越大。
learning_rate = 0.01
optimizer = torch.optim.SGD(model.parameters(), lr=learning_rate)


复制代码
import numpy as np
import torch
import matplotlib.pyplot as plt
from onnxslim.core import optimize

x = np.linspace(-5,5,20, dtype=np.float32)
_b=1/(1 + np.exp(-x))
y = np.random.normal(_b,0.005)

x = np.float32(x.reshape(-1,1))
y = np.float32(y.reshape(-1,1))


class LogicRegressionModel(torch.nn.Module):
    def __init__(self, input_dim, output_dim):
        super(LogicRegressionModel, self).__init__()
        self.linear = torch.nn.Linear(input_dim, output_dim)

    def forward(self, x):
        out = torch.sigmoid(self.linear(x))
        return out


input_dim = 1
output_dim = 1
model = LogicRegressionModel(input_dim, output_dim)
criterion = torch.nn.BCELoss()
learning_rate = 0.01
optimizer = torch.optim.SGD(model.parameters(), lr=learning_rate)

for epoch in range(100):
    epoch +=1
    inputs = torch.from_numpy(x).requires_grad_()
    labels = torch.from_numpy(y)

    optimizer.zero_grad()
    outputs = model(inputs)
    loss = criterion(outputs, labels)
    loss.backward()
    optimizer.step()
    print('epoch {}, loss {}'.format(epoch + 1, loss.item()))

# 绘制结果
predicted_y=model(torch.from_numpy(x).requires_grad_()).data.numpy()
print("标签y",y)
print("预测y",predicted_y)
plt.clf()
predicted=model(torch.from_numpy(x).requires_grad_()).data.numpy()
plt.plot(x,y,'go',label='True data',alpha=0.5)
plt.plot(x,predicted_y,'--',label='Predictions',alpha=0.5)
plt.legend(loc='best')
plt.show()
相关推荐
千宇宙航2 小时前
闲庭信步使用SV搭建图像测试平台:第三十一课——基于神经网络的手写数字识别
图像处理·人工智能·深度学习·神经网络·计算机视觉·fpga开发
onceco2 小时前
领域LLM九讲——第5讲 为什么选择OpenManus而不是QwenAgent(附LLM免费api邀请码)
人工智能·python·深度学习·语言模型·自然语言处理·自动化
天水幼麟3 小时前
动手学深度学习-学习笔记(总)
笔记·深度学习·学习
jndingxin5 小时前
OpenCV CUDA模块设备层-----高效地计算两个 uint 类型值的带权重平均值
人工智能·opencv·计算机视觉
天水幼麟5 小时前
动手学深度学习-学习笔记【二】(基础知识)
笔记·深度学习·学习
Sweet锦5 小时前
零基础保姆级本地化部署文心大模型4.5开源系列
人工智能·语言模型·文心一言
hie988946 小时前
MATLAB锂离子电池伪二维(P2D)模型实现
人工智能·算法·matlab
晨同学03276 小时前
opencv的颜色通道问题 & rgb & bgr
人工智能·opencv·计算机视觉
蓝婷儿6 小时前
Python 机器学习核心入门与实战进阶 Day 3 - 决策树 & 随机森林模型实战
人工智能·python·机器学习
大千AI助手6 小时前
PageRank:互联网的马尔可夫链平衡态
人工智能·机器学习·贝叶斯·mc·pagerank·条件概率·马尔科夫链