arXiv · NLP· Kaan Kale, Sriram Vishwanath·· 2026-10-14AI 评分41
提示注入探针学习对话而非仅注入
Prompt-Injection Probes Learn the Conversation, Not Just the Injection
AI 导读
线性探针在检测提示注入时易受对话位置影响,加入匹配负样本可显著降低误报率。 标准评估中仅靠对话位置即可达到0.91-0.98 AUROC,证明探针学习了表层特征。 跨六个开源模型测试,误报率从41-80%降至4-27%,对无害文本误报从92-98%降至3-16%,中位检测率保持95%。
来源:arXiv · NLP · arxiv.org