arXiv · ML· Kshitij Mishra, Salem Lahlou, Nils Lukas·· 2026-10-15AI 评分37
TRACER: 针对间接提示注入的轨迹正则化训练
TRACER: Trace-Regularized Training Against Indirect Prompt Injection
AI 导读
TRACER 提出一种通道感知的对抗训练方法,将 Qwen2.5-3B-Instruct 在 RAG 场景下的攻击成功率从 65.5% 降至 6.1%。 该方法结合答案锚定奖励与 ATRC 机制,在保持 78-82% 清洁准确性的同时,7B 模型单轮训练平均攻击成功率降至 9.4%。 研究证明有效防御必须针对实际部署通道进行显式训练与评估。
来源:arXiv · ML · arxiv.org