持续学习的综述: 理论、方法与应用(三:泛化分析)

前文连接:持续学习的综述: 理论、方法与应用(一)

前文连接:持续学习的综述: 理论、方法与应用(二:理论基础)

泛化分析

目前持续学习的理论研究主要是在增量任务的训练集上进行的,假设它们的测试集遵循相似的分布,候选解具有相似的泛化性。然而,由于学习多个任务的目标通常是高度非凸的,因此存在许多局部最优解,它们在每个训练集上的表现相似,但在测试集上的泛化性却有显著不同[313],[443]。对于持续学习,理想的解决方案不仅需要从训练集到测试集的任务内泛化性,还需要任务间泛化性,以适应其分布的增量变化。

相关推荐
DREAM依旧几秒前
隐马尔科夫模型|前向算法|Viterbi 算法
人工智能
GocNeverGiveUp13 分钟前
机器学习2-NumPy
人工智能·机器学习·numpy
B站计算机毕业设计超人1 小时前
计算机毕业设计PySpark+Hadoop中国城市交通分析与预测 Python交通预测 Python交通可视化 客流量预测 交通大数据 机器学习 深度学习
大数据·人工智能·爬虫·python·机器学习·课程设计·数据可视化
学术头条1 小时前
清华、智谱团队:探索 RLHF 的 scaling laws
人工智能·深度学习·算法·机器学习·语言模型·计算语言学
18号房客1 小时前
一个简单的机器学习实战例程,使用Scikit-Learn库来完成一个常见的分类任务——**鸢尾花数据集(Iris Dataset)**的分类
人工智能·深度学习·神经网络·机器学习·语言模型·自然语言处理·sklearn
feifeikon1 小时前
机器学习DAY3 : 线性回归与最小二乘法与sklearn实现 (线性回归完)
人工智能·机器学习·线性回归
游客5201 小时前
opencv中的常用的100个API
图像处理·人工智能·python·opencv·计算机视觉
古希腊掌管学习的神1 小时前
[机器学习]sklearn入门指南(2)
人工智能·机器学习·sklearn
Ven%2 小时前
如何在防火墙上指定ip访问服务器上任何端口呢
linux·服务器·网络·深度学习·tcp/ip
凡人的AI工具箱2 小时前
每天40分玩转Django:Django国际化
数据库·人工智能·后端·python·django·sqlite