机器学习笔记

1.线性回归模型

  1. 损失函数

3.梯度下降算法

多元特征的线性回归

当有多个影响因素的时候,公式可以改写为:

当有多个影响因素的时候为了方便计算,可以使用 Numpy下面的点积方法, np.dot(w,x) 最后再加个b

就省略了很多书写步骤,这叫做矢量化

多元回归的梯度下降

左边是一元的,只需要更新一个w,

右边是多元的,需要对多个w进行梯度下降

特征缩放

假设特征1的范围为 5~2000

特征2的范围为0~5

有三种方法可以实现特征缩放

1.除以最大值法:

5~2000 除以2000 变成 0.0025~1

0~5 除以 5 变成 0~1

2.归一化

3.z-score

数据太大,或太小,需要进行特征缩放,来加快梯度下降的效率

逻辑回归

该模型常用于分类问题, 比如分辨 良性肿瘤和 恶性肿瘤

上图为 sigmoid函数

数学公式如下

公式推导如下

既然分类那么需要决策边界

当Z>0时 即 y>0.5 时 类型为 1 ;Z = wx + b 即 wx + b > 0

当Z<0时 即 y<0.5 时 类型为 0; wx + b < 0

相关推荐
仗剑_走天涯4 分钟前
基于pytorch.nn模块实现线性模型
人工智能·pytorch·python·深度学习
陈洪奇32 分钟前
注册中心学习笔记整理
笔记·学习
cnbestec1 小时前
协作机器人UR7e与UR12e:轻量化设计与高负载能力助力“小而美”智造升级
人工智能·机器人·协作机器人·ur协作机器人·ur7e·ur12e
zskj_zhyl1 小时前
毫米波雷达守护银发安全:七彩喜跌倒检测仪重构居家养老防线
人工智能·安全·重构
gaosushexiangji2 小时前
利用sCMOS科学相机测量激光散射强度
大数据·人工智能·数码相机·计算机视觉
ai小鬼头3 小时前
AIStarter新版重磅来袭!永久订阅限时福利抢先看
人工智能·开源·github
说私域4 小时前
从品牌附庸到自我表达:定制开发开源AI智能名片S2B2C商城小程序赋能下的营销变革
人工智能·小程序
兴趣使然_4 小时前
【笔记】使用 html 创建网址快捷方式
笔记·html·js
飞哥数智坊4 小时前
新版定价不够用,Cursor如何退回旧版定价
人工智能·cursor
12点一刻5 小时前
搭建自动化工作流:探寻解放双手的有效方案(2)
运维·人工智能·自动化·deepseek