arXiv · NLP· Abdelkader Metales, Miriam Grabenheinrich·· 6 小时前AI 评分29
惊讶驱动学习吸收谎言的证据门控持续学习方法研究
Surprise Alone Learns Lies: Evidence-Gated Continual Learning for LLMs from Streaming Claims
AI 导读
研究发现基于惊讶度的持续学习法会吸收大量谎言，其错误率与随机选择相当。 研究使用 Qwen2.5-1.5B、Qwen2.5-3B 和 Llama-3.2-3B 验证，发现模型自身先验可区分已知事实的谎言（AUC 0.78-0.83），但无法区分合法更新（AUC 0.53）。 结合可信来源的证据门控系统能降低投毒率，但当攻击者植入30%匹配来源时，效果反而不如单独使用法官模型。
来源：arXiv · NLP · arxiv.org