李沐 过拟合和欠拟合【动手学深度学习v2】

模型容量

模型容量的影响

估计模型容量

难以在不同的种类算法之间比较 ,例如树模型和神经网络

给定一个模型种类,将有两个主要因素:

  • 参数的个数
  • 参数值的选择范围

VC维

线性分类器的VC维

VC维的用处

数据复杂度

多个重要因素:

  • 样本个数
  • 每个样本的元素个数
  • 时间、空间结构
  • 多样性

总结

  • 模型容量需要匹配数据复杂度,否则可能导致欠拟合和过拟合
  • 统计机器学习提供数学工具来衡量模型复杂度
  • 实际中一般靠观察训练误差和验证误差
相关推荐
极客BIM工作室3 分钟前
大模型中的Scaling Law:AI的“增长密码“
人工智能
纪伊路上盛名在4 分钟前
Alphafold实用指南—官网教程3
数据库·人工智能·机器学习·alphafold·计算生物学·结构生物学
茶杯67516 分钟前
数字孪生厂商推荐:跨行业通用型平台与垂直领域专精企业对比指南
人工智能
道可云18 分钟前
场景搭桥,产业赋能:新政策如何激活乡村振兴新动能
人工智能
诸葛务农28 分钟前
人形机器人:热成像血管分布图及糖尿病足早期病变预警模型
人工智能·机器人
拾零吖34 分钟前
Attention by 3B1B
人工智能·深度学习·机器学习
钟智强1 小时前
线性映射(Linear Mapping)原理详解:机器学习中的数学基石
人工智能·算法·机器学习
红尘炼丹客1 小时前
简析大模型(LLM)技术与量化交易
人工智能·金融
samroom1 小时前
langchain+ollama+Next.js实现AI对话聊天框
javascript·人工智能·langchain
西西o1 小时前
面向Agentic Coding的未来:豆包Doubao-Seed-Code模型深度测评与实战
人工智能