跳到正文
arXiv · AI· Sarthak Gupta, Priyanka Tembey·· 2026-10-15AI 评分23

Qwen3.6 与 Gemma-4 提示词注入检测:内部信号重思

Are You Reading the Right Thing? Rethinking Internal Signals for Prompt-Injection Detection

AI 导读

研究在 Qwen3.6-35B-A3B 和 Gemma-4-26B-A4B-it 上评估五种内部信号方法的提示词注入检测能力。 Attention Tracker 在检测成功注入时表现最佳,在 Qwen 上达到 0.949 AUROC,在 Gemma 上达到 0.887 AUROC。 结果表明,靠近响应生成的信号更能编码攻击成功信息,且检测性能强烈依赖提示词模板。

来源:arXiv · AI · arxiv.org