arXiv · AI· Tian Qin, Yuhang Jiang, Junzhe Chen, Lit Sin Tan, Lijie Wen·· 11 小时前AI 评分38
Step-Zero Attack: Agent Safety Before Observability
Step-Zero Attack: Agent Safety Before Observability
AI 导读
提出“Step Zero”攻击,指代理在处理输入前即因超预算造成危害。 7个代理框架与6个模型中,32/42组合超出4 MiB磁盘预算,其中26/42在模型读取前已发生。 模型无关测试表明危害源于处理原语,字节计数门控可使代理在25/28任务中保持合规。
来源:arXiv · AI · arxiv.org