arXiv · ML· Rishabh Tiwari, Kusha Sareen, Lakshya A Agrawal, Joseph E. Gonzalez, Matei Zaharia, Kurt Keutzer, Inderjit S Dhillon, Rishabh Agarwal, Devvrit Khatri·· 2026-10-15AI 评分36
LLM 快慢学习框架 FST 实现更高效持续适应
Learning, Fast and Slow: Towards LLMs That Adapt Continually
AI 导读
研究者提出快慢学习框架 FST,将模型参数作为慢权重,优化上下文作为快权重。在推理任务中,FST 的样本效率比单纯 RL 快 3 倍,且性能上限更高。 FST 训练的模型与基础模型的 KL 散度降低 70%,减少了灾难性遗忘。
来源:arXiv · ML · arxiv.org