arXiv · AI· Matt Clarke, Jan Dubi\'nski, James Chua, Simon Schrodi, Owain Evans, Alex Cloud·· 10 天前AI 评分26
Homeopathic Learning:稀释中毒微调数据反而可能增强其效果
Homeopathic Learning: Diluting poisoned fine-tuning data can strengthen its effect
AI 导读
研究发现“Homeopathic Learning”现象:仅用含特征的“poison”数据集微调模型时,模型不学习该特征;但加入同格式的“clean”数据后,模型反而学会该特征。
来源:arXiv · AI · arxiv.org