机器学习-过拟合&欠拟合问题

欠拟合

还是回到线性回归欠拟合的例子,如下图,我们得到的模型是房屋的大小和模型,可以看到随着房屋面积的表达,模型并没有,所以模型并没有很好的拟合训练数据,这个技术数据就是欠拟合另一个数据就是算法具有高偏差,

欠拟合意味着算法无法很好的拟合训练集,训练数据中有一个明显的模式,但是算法无法捕捉到

在上图中,第二个数据集合的刚刚好,泛化能力也不错,如果说在训和练测试的数据集之外的其他数据集中,模型拟合这些数据的能力也不错,这叫做泛化,我们说希望你的学习算法可以更好的泛化,这意味着,即使在他从未见过的数据集上也能做错良好的预测,对新样本有很好的泛化能力。

看一下上图同的第三个图,这条曲线非常完美的拟合了训练数据,因为他恰好通过了所有的训练数据,可以通过选择参数,使得这个模型的代价函数刚好等于使他这五个样本中的误差刚好等于0,

这是一条非常曲折的曲线,在各处上下波动,在某些地方,房子相比面积很小,但是房价更贵,所以可以认为这不是一个很好的房价预测模型。技术术语会说这个模型过拟合了这些数据,或者说模型存在过拟合问题,虽然他拟合了所有的数据,但是拟合的太好了,属于死记硬背,看起来也不具备非常好的泛化能力,另一个属于就是算法具有高方差,

中间的是模型刚刚好,他既不过拟合,也不欠拟合,几部高偏差,也不高方差,目前为止还没有也定的术语,我们也可以看到,机器学习就是在寻找一个既不过拟合也不欠拟合的模型,

如上图我们可以看到,第一个数据拟合的不太好,属于欠拟合,第二个,数据拟合的刚刚好,第三个数据是过拟合也叫高方不一定有很好的泛化能力

相关推荐
万事可爱^2 小时前
LangChain v1.0学习笔记(4)—— 核心组件Models
人工智能·笔记·学习·langchain·大模型
Frdbio2 小时前
环腺苷酸(cAMP)ELISA检测试剂盒
linux·人工智能·python
dazzle2 小时前
计算机视觉处理(OpenCV基础教学(二十二):霍夫变换技术详解)
人工智能·opencv·计算机视觉
狗狗学不会2 小时前
RK3588 极致性能:使用 Pybind11 封装 MPP 实现 Python 端 8 路视频硬件解码
人工智能·python·音视频
Aevget2 小时前
Kendo UI for jQuery 2025 Q4新版亮点 - AI 助手持续加持,主力开发更智能
人工智能·ui·jquery·界面控件·kendo ui
北京耐用通信2 小时前
耐达讯自动化CANopen转Profibus网关在矿山机械RFID读写器应用中的技术分析
人工智能·科技·物联网·自动化·信息与通信
飞睿科技2 小时前
UWB技术在机器人领域的创新应用与前景
网络·人工智能·机器人·定位技术·uwb技术
空山新雨后、2 小时前
RAG:搜索引擎与大模型的完美融合
人工智能·搜索引擎·rag
sld1682 小时前
以S2B2C平台重构快消品生态:效率升级与价值共生
大数据·人工智能·重构