跳到正文
arXiv · AI· Louise Nayeong Koh, Yaechan Lee, Myeongjong Lee, Doyeon Kim, Juyoung Park, Seunggyu Kim, Inseo Kim, Chaerin Jung, Hyogon Ryu·· 11 天前AI 评分24

SkillOpt 反馈投毒导致后门技能形成机制研究

When Feedback Becomes a Backdoor: Tracing Backdoor Skill Formation in Text-Space Skill Optimization

AI 导读

SkillOpt 中参考反馈投毒可诱导持久性触发规则。在 SearchQA 数据集上,自然攻击在 3 个种子中均保留精确规则,模型在 200/200 个触发问题中生成 payload,且在 0/200 个干净问题中生成。

来源:arXiv · AI · arxiv.org