跳到正文
arXiv · AI· Dhruv Dixit, Paritosh Pandey, Snehalkumar 'Neil' S. Gaikwad·· 10 天前AI 评分25

自我索引潜在记忆提升大语言模型持续指令微调

Self-Indexing Latent Memories for Access-Aware Continual Instruction Tuning of LLMs

AI 导读

TILA-CT 提出无回放持续指令微调方法,使任务模块具备自索引能力。 在 8 任务 CT-Pipeline 上,该方法取得 65.19 获取分与 63.98 最终宏观分,平均遗忘仅 1.38 点。 基于 6 种主干模型验证鲁棒性,最终宏观路由准确率达 93.9%。

来源:arXiv · AI · arxiv.org