自步学习的介绍 self paced learning

这方面的研究专家,参考西安交通大学的
孟德宇老师

他最近的研究方向:

Fundamental problems in machine learning and computer vision, especially including:

Meta-learning

Variational bayesian methods on inverse problems

Robust and interpretable deep learning

1.1 Self-paced curriculum learning

https://ojs.aaai.org/index.php/AAAI/article/view/9608;

课程学习(CL)或自定进度学习(SPL)代表了最近提出的一种学习制度,其灵感来自人类和动物的学习过程,在训练中逐渐从简单到更复杂的样本。这两种方法具有相似的概念学习范式,但具体的学习方案不同。在CL中,课程由先验知识预先确定,此后保持固定。因此,这种方法在很大程度上依赖于先验知识的质量,而忽略了对学习者的反馈。在SPL中,课程是动态确定的,以适应精益者的学习速度。然而,SPL无法处理先验知识,使其容易过度拟合。在本文中,我们发现了CL和SPL之间缺失的联系,并提出了一个名为自定进度课程倾斜(SPCL)的统一框架。SPCL被表述为一个简洁的优化问题,它既考虑了训练前已知的先验知识,也考虑了训练期间的学习进度。与人类教育相比,SPCL类似于"讲师-学生-协作"学习模式,而不是CL中的"讲师驱动"或SPL中的"学生驱动"。根据经验,我们证明了SPCL在两个任务上的优势

1.2 课程学习

参考阅读

http://huangc.top/2021/06/13/Curriculum-Learning-2021/

1.3

2.

2.1

2.2

2.3

3.

3.1

3.2

3.3

课程学习(CL)或自定进度学习(SPL)代表了最近提出的一种学习制度,其灵感来自人类和动物的学习过程,在训练中逐渐从简单到更复杂的样本。这两种方法具有相似的概念学习范式,但具体的学习方案不同。在CL中,课程由先验知识预先确定,此后保持固定。因此,这种方法在很大程度上依赖于先验知识的质量,而忽略了对学习者的反馈。在SPL中,课程是动态确定的,以适应精益者的学习速度。然而,SPL无法处理先验知识,使其容易过度拟合。在本文中,我们发现了CL和SPL之间缺失的联系,并提出了一个名为自定进度课程倾斜(SPCL)的统一框架。SPCL被表述为一个简洁的优化问题,它既考虑了训练前已知的先验知识,也考虑了训练期间的学习进度。与人类教育相比,SPCL类似于"讲师-学生-协作"的学习模式,而不是CL中的"讲师驱动"或SPL中的"学生驱动"。根据经验,我们证明了SPCL在两个任务上的优势

相关推荐
kirk_wang几秒前
Agent Plan:从“模型订阅“到“Agent能力订阅“,火山引擎如何重新定义AI Agent开发范式
人工智能·火山引擎·agent plan
云和数据.ChenGuang1 分钟前
深度学习在鲲鹏HPC下的学习
人工智能·深度学习·学习·机器学习·数据挖掘
百度Geek说3 分钟前
电商搜索H1提升AI-Coding质量实践 RD & QA
人工智能
学习要积极4 分钟前
Spring AI Alibaba-ChatClient
java·人工智能·spring
MartinYeung54 分钟前
[论文学习]使用使用者层级差分隐私(User-Level DP)微调大型语言模型(LLM)
人工智能·学习·语言模型
财经资讯数据_灵砚智能4 分钟前
基于全球经济类多源新闻的NLP情感分析与数据可视化(夜间-次晨)2026年5月29日
人工智能·python·信息可视化·自然语言处理·ai编程
智慧景区与市集主理人7 分钟前
巨有科技联营分账系统|多业态统一管控,破解景区分账结算难题
大数据·人工智能·科技
触底反弹7 分钟前
从数据结构到 Prompt 设计:前端工程师的 AI 时代进阶指南
javascript·人工智能·python
好好风格8 分钟前
这个开源项目,把本地大模型做成会说话的 Live2D 桌宠
人工智能·python·开源
程序猿阿伟10 分钟前
《OpenClaw远程网关:密钥体系与长连接的深度拆解》
人工智能