机器学习深度学习beginning1

1.机器学习:就是让机器具备找函式(寻找规律)的能力。

2.不同类型的函式:

回归:函数输出一个数值,输入可能是多种能够判断输出结果的指标,预测连续数值。

分类:给定选项类,函式输出正确的选项,预测离散类型。

如何找到函式:a.假设函数y(y就是模型,可带有未知参数);b.根据训练数据定义损失L(判断模型的好坏,实际也是一个函数);c.优化(Optimiztion),找最佳的y中的未知参数,使得损失最小。

MAE:均值绝对误差,e=|y-y'|(y'为预测值,y为真实值)

MSE:均方差,e=(y-y')²(y'为预测值,y为真实值)
:学习率,寻找未知参数的最佳值时用到

3.模型分为:线性模型、非线性模型

liner function:(会具有模型偏差)

Sigmoid function:(w改变斜率、b改变左右位置、c改变上下高度)

Rectified Liner Unit(RLU)

4.深度学习:由多个神经元组成神经层,从而构成深度神经网络的机器学习。

神经元 (Neuron):基本计算单元,接收输入,加权求和,通过激活函数输出(相当于过滤器)。

层:输入出、隐藏层(进行特征提取和变换)、输出层。

激活函数:让网络拟合出复杂的曲线。(ReLU、Sigmoid)

5.常见的网络架构:

CNN(卷积神经网络):处理网络状数据。(图像)

RNN(循环神经网络):处理序列数据,具有"记忆"特点。(文本)

GAN(生成对抗网络):生成内容。

6.(AI生成)

术语 解释 通俗理解
特征 (Feature) 输入数据的属性 比如预测房价,特征就是"面积"、"地段"、"房龄"。
标签 (Label) 想要预测的目标值 比如预测房价,标签就是具体的"价格"。
模型 (Model) 经过训练后的算法文件 就像学生学完知识后的大脑,可以用来做题。
训练集/测试集 用于训练和验证的数据划分 训练集是"课本",测试集是"期末考试题"。
损失函数 (Loss) 衡量预测值与真实值差距的公式 考试扣了多少分,分数越低越好。
优化器 (Optimizer) 用于更新模型参数的算法 老师根据错题指导学生如何改进学习方法(如 SGD, Adam)。
梯度下降 (Gradient Descent) 寻找损失函数最小值的方法 下山的过程,一步步往坡度最陡的地方走,直到谷底。
过拟合 (Overfitting) 模型在训练集表现好,测试集表现差 "死记硬背",课本题都会,考试换个题就不会了。
欠拟合 (Underfitting) 模型在训练集和测试集表现都差 "没学懂",课本题都不会。
超参数 (Hyperparameter) 训练前人工设定的参数 如学习率、网络层数(类似于"每天学几小时")。

7.训练损失

8.过拟合

表现:训练集准确率很高,但测试集/验证集准确率很低)。

本质:模型太复杂,记住了数据中的"噪声"而不是"规律"。

解决方法:

增加训练数据

数据增强(没有足够的数据,需要对原数据进行变换)

给模型进行限制:减少参数、使用共享参数、去掉不相关或冗余的特征、早停法(early stopping)、正则化技术(Regularization)、Dropout。

9.欠拟合

表现:训练集准确率低,测试集/验证集准确率很低。

本质:模型太简单。

解决方法:

增加模型复杂度

减少正则化

增加新特征

增加训练时间(epoch)

注:所有的机器学习深度学习系列的博客都来自于B站

相关推荐
在所不辞兄19 小时前
为什么神经网络对对抗扰动和分布偏移往往比较脆弱,而人类感知相对更鲁棒?
人工智能·深度学习·神经网络·机器学习
szxinmai主板定制专家20 小时前
储能 EMS、微网控制器选型:RK3588、RK3576、RK3568+FPGA 怎么选?多网、多 CAN、EMC 设计权衡
人工智能·深度学习·机器学习·fpga开发·工业网关·rk3576·电力网关
鬼手点金21 小时前
Harness 工程:模型之外的竞争力
服务器·人工智能·深度学习·机器学习·bug
小姚也要变强21 小时前
机器学习基本概念
人工智能·机器学习
在所不辞兄21 小时前
【神经网络干货】把指数级计算拆成四条一维路径:可分离 PI-DeepONet 如何破解高维 PDE
人工智能·深度学习·神经网络·机器学习
roman_日积跬步-终至千里21 小时前
【数据Agent论文·分析与报告评测|27】ComInsight:原子洞察正确,组合后的结论就可靠吗?
人工智能·算法·机器学习·数据分析
余槐i1 天前
近期技术热点:从异常现象到根因定位的完整排查
人工智能·深度学习·机器学习
Mister Leon1 天前
Nvidia Orin AGX实战之从量化到蒸馏:在 Orin 上落地的大模型压缩实战
人工智能·算法·机器学习
东方佑1 天前
用先验重构线性注意力:为什么它至少比普通线性注意力更接近标准注意力
人工智能·机器学习·重构
中年阿甘1 天前
Kendall秩相关系数的意义与计算实现
机器学习