arXiv · AI· Leonidas Raghav·· 21 天前AI 评分26
基于激活线性探针预测 AI Agent 在社交胁迫下泄露机密
Pre-Crime for Agents, at the Last Second: Probing When a Recruited Agent Gives In
AI 导读
研究发现,对 Agent 激活值使用线性探针可在输出前捕捉泄露风险。在 Qwen3-32B 上,5% 误报率下拦截 82% 泄露调用,推理探针在 gpt-oss-20b 上达 AUROC 0.91。
来源:arXiv · AI · arxiv.org