跳到正文
arXiv · AI· Matt Clarke, Jan Dubi\'nski, James Chua, Simon Schrodi, Owain Evans, Alex Cloud·· 10 天前AI 评分26

Homeopathic Learning:稀释中毒微调数据反而可能增强其效果

Homeopathic Learning: Diluting poisoned fine-tuning data can strengthen its effect

AI 导读

研究发现“Homeopathic Learning”现象:仅用含特征的“poison”数据集微调模型时,模型不学习该特征;但加入同格式的“clean”数据后,模型反而学会该特征。

来源:arXiv · AI · arxiv.org