跳到正文
arXiv · ML· Elad David, Max Fomin·· 2026-10-05AI 评分34

Prompted to Discriminate:通用化恶意输入探针研究

Prompted to Discriminate: Generalizing Malicious-Input Probes in the Wild

AI 导读

该研究评估了使用分类后缀激活探针检测 LLM agent 恶意输入的效果。在 13 个安全基准上对 Llama-3.1-8B、Qwen3.5-9B 和 Gemma-4-12B 进行严格留一法评估,发现分类后缀可将分布外检测的 AUC 提升约 4 个点。

来源:arXiv · ML · arxiv.org