跳到正文
arXiv · AI· Mihai Christodorescu, Earlence Fernandes, Ashish Hooda, Somesh Jha, Johann Rehberger, Kamalika Chaudhuri, Xiaohan Fu, Khawaja Shams, Guy Amir, Jihye Choi, Sarthak Choudhary, Nils Palumbo, Andrey Labunets, Nishit V. Pandya·· 8 小时前AI 评分32

Agent Security is a Systems Problem

Agent Security is a Systems Problem

AI 导读

该论文主张应将 Agent 安全视为系统问题,指出 AI 模型作为不可信组件,仅提升模型鲁棒性不足以保障安全,必须通过系统级手段强制实施安全不变量。 基于在操作系统、网络等领域的经验,作者结合 11 个真实世界攻击案例论证了系统安全原则的预防作用,并识别出实现这些原则的研究挑战。 这项工作被 NeurIPS 2026 接收为口头报告,为设计具有可预测保障的 Agentic 系统奠定基础。

来源:arXiv · AI · arxiv.org