arXiv · ML· Mohamed Dhouib, Clement Elliker, Alexi Canesse, Ma\"el Jenny, Lucas-Andrei Thil, Mahammed El Sharkawy, Sonia Vanier, Elie Bursztein·· 2026-10-06AI 评分38
RAISED:通过自蒸馏提升 LLM 智能体抵御提示注入的鲁棒性
RAISED: Self-Distillation for Robustness to Prompt Injection in LLM Agents
AI 导读
针对现有训练防御导致模型分布漂移及效用下降的问题,提出 RAISED 框架。 RAISED 结合自生成与自蒸馏,训练模型在干净与注入场景下保持行为一致性。 该方法在显著降低提示注入攻击成功率的同时,保留了智能体与通用基准上的模型效用。
来源:arXiv · ML · arxiv.org