跳到正文
arXiv · AI· Luman Zhao, Minghui Xu, Yue Zhang, Yijun Yang·· 2026-10-09AI 评分28

LTBD:用于防御提示词注入的可学习信任边界分隔符

LTBD: Learnable Trust-Boundary Delimiters for Prompt Injection Defense

AI 导读

论文提出轻量级防御机制 LTBD,通过可学习分隔符显式编码信任边界,在不修改 LLM 参数的情况下防御提示词注入。 实验显示 LTBD 在 AlpacaFarm 上 ASR 为 0.00%,在 TaskTracker 上仅 0.11-0.19%,且能抵御自适应攻击。 该方案推理开销极小,保留了良性任务效用,性能优于推理时防御并可与训练型方法竞争。

来源:arXiv · AI · arxiv.org