arXiv · AI· Chen Xiong, Zhiyuan He, Pin-Yu Chen, Stjepan Picek, Tsung-Yi Ho·· 2026-10-06AI 评分49
SIR:面向计算机使用智能体的自我改进红队测试框架
SIR: Self-improving Red-teaming for Compute Use Agents
AI 导读
研究者提出 SIR,一个黑盒自我改进的间接提示注入(IPI)框架,通过组合可复用红队原则并迭代反馈蒸馏新原则,对三个前沿计算机使用智能体(CUA)发起攻击,每例最多 10 次尝试。
来源:arXiv · AI · arxiv.org