二元分类逻辑回归python代码实现

python 复制代码
import numpy as np
from math import *


#sigmoid函数
def sigmoid(z):
    return 1/(1+exp(-z))

#计算代价的函数
def get_cost_logistic(X,y,w,b):
    m=X.shape[0]
    cost=0.0
    for i in range(m):
        z_i=np.dot(X[i],w)+b
        f_wb_i=sigmoid(z_i)
        cost+=-y[i]*np.log(f_wb_i)-(1-y[i])*np.log(1-f_wb_i)
    cost=cost/m
    return cost

#计算梯度的函数
def get_gradient(x,y,w,b):
   #获取数据量和特征数量
   m=x.shape[0]
   n=x.shape[1]
   dj_dw=np.zeros((n,))
   dj_db=0
   for i in range(m):
       error=sigmoid(np.dot(x[i,:],w)+b)-y[i]
       dj_db+=error
       for j in range(n):
           dj_dw[j]+=(error*x[i,j])
   dj_db=dj_db/m
   dj_dw=dj_dw/m
   return dj_dw,dj_db

#梯度下降函数
def gradient_descent(x,y,w_in,b_in,alpha,iters):
    w=w_in
    b=b_in
    cost_his=[]
    for i in range(iters):
        dj_dw,dj_db=get_gradient(x,y,w,b)
        w=w-dj_dw*alpha
        b=b-dj_db*alpha
        cost_his.append(get_cost_logistic(x,y,w,b))
        if (i)%(iters/10)==0:
            print(f'iteration:{i},cost:{cost_his[i]},w:{w},b:{b}')
    print(f'final w:{w},b:{b}')
    return w,b,cost_his
相关推荐
编程零零七20 分钟前
Python语法大全,语法总结-python基础
开发语言·windows·python·python基础·python项目·python源码·python语法
IFTICing21 分钟前
【文献阅读】Unsupervised Machine Learning for Bot Detection on Twitter
人工智能·python·机器学习·数据挖掘
우 유24 分钟前
【菜菜的sklearn机器学习】(1)决策树
人工智能·python·sklearn
百流24 分钟前
Pyspark下操作dataframe方法(2)
hadoop·python·spark·pyspark
立黄昏粥可温25 分钟前
Python 从入门到实战17(正则表达式操作)
python·正则表达式
AwesomeCPA38 分钟前
果蔬识别系统性能优化之路(四)
前端·人工智能·python·性能优化·tensorflow
JovaZou1 小时前
[Python学习日记-21] Python 中的字符编码(上)
开发语言·python·学习
哈团2 小时前
为解决bypy大文件上传报错—获取百度云文件直链并使用Aria2上传文件至服务器
服务器·python
wang1510386062 小时前
运行QWen2-1.5b模型时报错“RuntimeError: cutlassF: no kernel found to launch!”
python·深度学习
hummhumm2 小时前
数据库系统 第58节 数据库审计
网络·数据库·python·算法·oracle·java-ee·database