arXiv · NLP· Hengsong Liu, Liangyu Teng, Jingnan Cai, Yuntian Shi, Jingyu Zhang, Yang Liu, Jing Liu, Liang Song·· 4 小时前AI 评分31
共享模型 LLM 团队中鲁棒遗忘机制的研究:聚合条件遗忘
Does Unlearning Survive Collaboration? Robust Unlearning for Shared-Model LLM Teams
AI 导读
合作削弱了 LLM 团队的遗忘效果,研究提出了聚合条件遗忘(ACU)方法。 ACU 通过利用个体和池化消息的重构反馈来训练共享模型,优先处理高恢复风险视角。 在 TOFU 基准上,ACU 将全轨迹恢复率从 41.8% 降至 19.3%,有效遏制信息泄露。
来源:arXiv · NLP · arxiv.org