arXiv · NLP· Juan Belieni, Ana Carolina Erthal, Eliezer de Souza da Silva, Diego Mesquita·· 6 小时前AI 评分23
通过正交投影在持续大语言模型遗忘中保留效用
Preserving Utility in Continual LLM Unlearning via Orthogonal Projections
AI 导读
COP方法通过限制梯度更新方向，解决了持续遗忘中模型效用下降的问题。 该方法保证了一阶非干扰，实验显示在TOFU和RWKU基准上有效防止目标函数崩溃。
来源：arXiv · NLP · arxiv.org