连续学习

Better Bench21 天前
python·连续学习·路径优化·增量学习·路径积分·重要性矩阵·记忆保持
【Python实现连续学习算法】复现2018年ECCV经典算法RWalk连续学习(Continual Learning)是一种模拟人类学习过程的机器学习方法,它旨在让模型在面对多个任务时能够连续学习,而不会遗忘已学到的知识。然而,大多数深度学习模型在连续学习多个任务时会出现“灾难性遗忘”(Catastrophic Forgetting)现象。灾难性遗忘指模型在学习新任务时会大幅度遗忘之前学到的任务知识,这是因为模型参数在新任务的训练过程中被完全覆盖。
Better Bench1 个月前
连续学习·侧抑制·神经元激活·抑制激活
【连续学习之SSL算法】2018年论文Selfless sequential learning年份:2018期刊: arXiv preprint Aljundi R, Rohrbach M, Tuytelaars T. Selfless sequential learning[J]. arXiv preprint arXiv:1806.05421, 2018.
Better Bench6 个月前
知识蒸馏·持续学习·连续学习·终身学习
【博士每天一篇文献-算法】持续学习经典算法之LwF: Learning without forgetting年份:2017 作者:Zhizhong Li,Amazon AWS Rekognition;Derek Hoiem,伊利诺伊大学计算机科学教授 会议:IEEE transactions on pattern analysis and machine intelligence 引用量:4325 Li Z, Hoiem D. Learning without forgetting[J]. IEEE transactions on pattern analysis and machine intelligenc
Better Bench1 年前
算法·持续学习·连续学习·终身学习·正则化·突触智能·脑科学
【博士每天一篇论文-算法】Continual Learning Through Synaptic Intelligence,SI算法阅读时间:2023-11-23年份:2017 作者:Friedemann Zenke,巴塞尔大学弗里德里希·米歇尔研究所(FMI) Ben Poole,谷歌 DeepMind 研究科学家 期刊: International conference on machine learning. PMLR 引用量:2309
Better Bench1 年前
持续学习·连续学习·灾难性遗忘·弹性权重合并·ewc
【博士每天一篇文献-算法】Overcoming catastrophic forgetting in neural networks阅读时间:2023-10-24年份:2016 作者:James Kirkpatrick, Razvan Pascanu, Neil Rabinowitz, Joel Veness, Guillaume Desjardins, Andrei A. Rusu, Kieran Milan, John Quan, Tiago Ramalho, Agnieszka Grabska-Barwinska, Demis Hassabis, Claudia Clopath, Dharshan Kumaran, Raia H