李宏毅机器学习深度学习:机器学习任务攻略

课程概要

介绍了当我们遇到模型效果(loss)不理想时,进行模型优化的分析方法和思路。

Part 1> 原因分析

可能的原因:

  • 数据集标签不够(标签之间的因果关联性不强)

  • 模型简单(神经元层数不够)

  • 优化问题(optimization)

  • 训练过拟合 (ovefiting)

  • 训练集和测试集 统计学数据分布不匹配(mismatch)

判断方法

是不是训练集和测试集mismatch

训练集如果loss很低,但测试集loss高,则可以分析 训练集和测试集的区别

mismatch的情况示例:

e.g.1 用动物园的图像分类模型,识别野生动物

e.g.2 用亚洲人的特征识别模型,识别欧洲人的特征

是不是过拟合

训练集如果loss很低,但测试集loss高,且不太可能是mismatch的情况,说明很可能是过拟合

模型简单

加了神经元,没有优化效果:加了神经元,训练集和测试集的loss依然很高

则排除是模型简单的原因;

是不是optimization问题

不是上述两个,则可能是optimization

Part 2> 解决思路

应对overfiting:

方法一:增加/丰富数据集

  • 收集真实数据

  • 通过小样本扩增法(e.g. 图像左右反转、镜像等合理调整)

方法二:增加限制条件

  • 简化模型------减少参数

  • 减少关联性较少的标签(features)

  • 减少训练次数

  • 【预告】regularization数据归一化处理

  • 简化模型------减少少神经元(dropout)

  • 【预告】全连接网络、CNN部分讲

Part 3> 验证效果

通过公开数据集、私有数据集和自己的数据集中划分出的validtion set验证。

public数据集验证:

目的:公众说服力

示例:MINST手写数字

private数据集验证:

目的:公众说服力 / 领域内说服力。

示例:医患数据集(医患数据涉及病人隐私,常为非公开数据集)

validation数据集验证:

目的:证明神经网络/模型结构设计合理性、可解释性(逻辑自洽);也可以证明 泛用性(可迁移性)通用性

方法:validation 数据集划分(N-flod Cross法划分, "交叉验证"取平均值)

图为N-flod中N为3的示例。

相关推荐
RAG专家1 小时前
【Mixture-of-RAG】将文本和表格与大型语言模型相结合
人工智能·语言模型·rag·检索增强生成
星期天要睡觉4 小时前
自然语言处理(NLP)——自然语言处理原理、发展历程、核心技术
人工智能·自然语言处理
低音钢琴4 小时前
【人工智能系列:机器学习学习和进阶01】机器学习初学者指南:理解核心算法与应用
人工智能·算法·机器学习
大千AI助手5 小时前
Hoeffding树:数据流挖掘中的高效分类算法详解
人工智能·机器学习·分类·数据挖掘·流数据··hoeffding树
新知图书5 小时前
大模型微调定义与分类
人工智能·大模型应用开发·大模型应用
山烛5 小时前
一文读懂YOLOv4:目标检测领域的技术融合与性能突破
人工智能·yolo·目标检测·计算机视觉·yolov4
大千AI助手5 小时前
独热编码:分类数据处理的基石技术
人工智能·机器学习·分类·数据挖掘·特征工程·one-hot·独热编码
钱彬 (Qian Bin)6 小时前
项目实践4—全球证件智能识别系统(Qt客户端开发+FastAPI后端人工智能服务开发)
人工智能·qt·fastapi
钱彬 (Qian Bin)6 小时前
项目实践3—全球证件智能识别系统(Qt客户端开发+FastAPI后端人工智能服务开发)
人工智能·qt·fastapi
Microsoft Word6 小时前
向量数据库与RAG
数据库·人工智能·向量数据库·rag