arXiv · AI· Gosha Kozhevnikov, Tyler Tracy·· 2026-10-16AI 评分34
Screwtape:用于监控对抗性红队测试的转录编辑管线
Screwtape: Adversarial Transcript Editing for Monitor Red-Teaming
AI 导读
研究团队发布 Screwtape 管线,通过 LLM 编辑真实 Agent 转录来生成能绕过 action-only 监控的攻击。 该管线在 252 次运行中生成 35 个通过验证的攻击,其中 6 个经人工确认有效并成功规避前沿开发者的保留监控。 监控者可利用这些攻击修复盲区,评估者则可将其作为安全声明的反例。
来源:arXiv · AI · arxiv.org