arXiv · ML· Andrii Shkabrii, Claudia Plant, Martin Pawelczyk·· 5 小时前AI 评分28
通过统计独立性实现 LLM 机器遗忘：新算法 PINT
Forget What Comes Next: LLM Unlearning via Statistical Independence
AI 导读
PINT 算法利用 HSIC 降低待遗忘 token 与内部表征的统计依赖，在 8 项实验中展现最强的遗忘-效用权衡。 该算法基于 7B 参数模型验证，并证明可扩展至 70B 规模，能覆盖从高危知识到版权内容的多种遗忘场景。 PINT 是唯一能在保留近原模型效用的同时，使高斯毒药完全不可检测的方法，代码已公开。
来源：arXiv · ML · arxiv.org