机器学习深度学习beginning1

1.机器学习:就是让机器具备找函式(寻找规律)的能力。

2.不同类型的函式:

回归:函数输出一个数值,输入可能是多种能够判断输出结果的指标,预测连续数值。

分类:给定选项类,函式输出正确的选项,预测离散类型。

如何找到函式:a.假设函数y(y就是模型,可带有未知参数);b.根据训练数据定义损失L(判断模型的好坏,实际也是一个函数);c.优化(Optimiztion),找最佳的y中的未知参数,使得损失最小。

MAE:均值绝对误差,e=|y-y'|(y'为预测值,y为真实值)

MSE:均方差,e=(y-y')²(y'为预测值,y为真实值)
:学习率,寻找未知参数的最佳值时用到

3.模型分为:线性模型、非线性模型

liner function:(会具有模型偏差)

Sigmoid function:(w改变斜率、b改变左右位置、c改变上下高度)

Rectified Liner Unit(RLU)

4.深度学习:由多个神经元组成神经层,从而构成深度神经网络的机器学习。

神经元 (Neuron):基本计算单元,接收输入,加权求和,通过激活函数输出(相当于过滤器)。

层:输入出、隐藏层(进行特征提取和变换)、输出层。

激活函数:让网络拟合出复杂的曲线。(ReLU、Sigmoid)

5.常见的网络架构:

CNN(卷积神经网络):处理网络状数据。(图像)

RNN(循环神经网络):处理序列数据,具有"记忆"特点。(文本)

GAN(生成对抗网络):生成内容。

6.(AI生成)

术语 解释 通俗理解
特征 (Feature) 输入数据的属性 比如预测房价,特征就是"面积"、"地段"、"房龄"。
标签 (Label) 想要预测的目标值 比如预测房价,标签就是具体的"价格"。
模型 (Model) 经过训练后的算法文件 就像学生学完知识后的大脑,可以用来做题。
训练集/测试集 用于训练和验证的数据划分 训练集是"课本",测试集是"期末考试题"。
损失函数 (Loss) 衡量预测值与真实值差距的公式 考试扣了多少分,分数越低越好。
优化器 (Optimizer) 用于更新模型参数的算法 老师根据错题指导学生如何改进学习方法(如 SGD, Adam)。
梯度下降 (Gradient Descent) 寻找损失函数最小值的方法 下山的过程,一步步往坡度最陡的地方走,直到谷底。
过拟合 (Overfitting) 模型在训练集表现好,测试集表现差 "死记硬背",课本题都会,考试换个题就不会了。
欠拟合 (Underfitting) 模型在训练集和测试集表现都差 "没学懂",课本题都不会。
超参数 (Hyperparameter) 训练前人工设定的参数 如学习率、网络层数(类似于"每天学几小时")。

7.训练损失

8.过拟合

表现:训练集准确率很高,但测试集/验证集准确率很低)。

本质:模型太复杂,记住了数据中的"噪声"而不是"规律"。

解决方法:

增加训练数据

数据增强(没有足够的数据,需要对原数据进行变换)

给模型进行限制:减少参数、使用共享参数、去掉不相关或冗余的特征、早停法(early stopping)、正则化技术(Regularization)、Dropout。

9.欠拟合

表现:训练集准确率低,测试集/验证集准确率很低。

本质:模型太简单。

解决方法:

增加模型复杂度

减少正则化

增加新特征

增加训练时间(epoch)

注:所有的机器学习深度学习系列的博客都来自于B站

相关推荐
:mnong6 小时前
SHAP 自动解释成本构成分析报告
机器学习·shap
一切皆是因缘际会7 小时前
本源投影内生智能:从概率拟合到硅基生命的底层重构
人工智能·深度学习·机器学习·ai·重构
爱学习的徐徐8 小时前
监督学习核心算法:逻辑回归(Logistic Regression)
人工智能·机器学习·逻辑回归
人工智能培训8 小时前
中国人工智能培训网—AI系列录播课
大数据·人工智能·机器学习·计算机视觉·知识图谱
nebula-AI9 小时前
人工智能导论:模型与算法(未来发展与趋势)
人工智能·神经网络·算法·机器学习·量子计算·automl·类脑计算
忆~遂愿10 小时前
从文字应答到具象共情:Agent 交互的底层革新
人工智能·深度学习·目标检测·microsoft·机器学习·ar·交互
Zxc_10 小时前
逻辑回归:从Sigmoid到牛顿法,手写一个完整的概率分类器
机器学习
水木流年追梦10 小时前
大模型入门-预训练、SFT 有监督学习
人工智能·学习·机器学习
pen-ai11 小时前
Kennard-Stone (KS) 算法详解 —— 从实验设计到样本划分的经典方法
人工智能·算法·机器学习
咋吃都不胖lyh11 小时前
Prompt Engineering(提示工程)和 CoT(Chain of Thought,思维链)
人工智能·深度学习·机器学习