arXiv · AI· Ilan Zendel, Matan Levy, Stav Cohen, Avi Mendelson, Amit LeVi·· 13 小时前AI 评分51
arXiv论文：利用武器化安全预警机制操控AI智能体
Voluntary Servitude: Weaponized Safety Warning Mechanisms for Controlling AI Agents
AI 导读
研究提出一种针对LLM智能体的攻击方法“voluntary servitude”，攻击者通过植入伪造的安全危害描述，利用智能体自身的安全预警机制使其主动避开合法选项并选择攻击者目标。
来源：arXiv · AI · arxiv.org