跳到正文
Google Research·· 4 小时前AI 评分54

Google 提出睡眠框架:LLM 持续学习新范式

The sleep framework: A new way for LLMs to retain knowledge in continual learning

AI 导读

Google Research 提出睡眠框架,让 LLM 在离线阶段巩固短期记忆为长期参数,从而支持持续学习。该框架在 BABILong 基准上实现 10M token 长上下文近乎完美保留,并在 AIME 24/25 等数学推理任务上提升了准确性。

来源:Google Research · research.google