arXiv · ML· Nivya Talokar, Ayush K Tarun, Murari Mandal, Maksym Andriushchenko, Antoine Bosselut·· 3 小时前AI 评分32
STING：衡量多轮多语言 LLM 智能体协助非法任务的自动化红队框架
Helpful to a Fault: Measuring Illicit Assistance in Multi-Turn, Multilingual LLM Agents
AI 导读
论文提出 STING 框架，用于通过多轮交互和自适应追问测试 LLM 智能体的非法任务完成率。 STING 在 AgentHarm 场景下展现出比单轮提示更高的非法任务完成度，并将攻击成功建模为首次越狱时间随机变量，引入 Restricted Mean Jailbreak Discovery 指标。
来源：arXiv · ML · arxiv.org