arXiv · AI· Giulia Lanzillotta, Mandana Samiei, Doina Precup, Razvan Pascanu, Claire Vernade·· 16 小时前AI 评分28
持续学习应保留还是适应?通用化持续学习研究
To Retain or to Adapt? Generalizing Continual Learning
AI 导读
该研究挑战持续学习中以保留知识为核心的假设,提出通过平均终身误差(ALE)将其形式化为在线优化问题。 引入迁移效率量化不稳定性与瞬态误差的张力,推导出关键任务时长阈值:超出该阈值时,保留历史知识会从优势转为优化负担。 将持续学习与可预测序列的在线学习框架关联,提出预测性持续学习算法类,其Window算法在受控分布漂移下优于联合任务学习与独立任务学习。
来源:arXiv · AI · arxiv.org