arXiv · AI· Abbas Raftari·· 2026-10-09AI 评分42
从被动遏制到主动确保:OpenAI、Anthropic 与 Google 智能体安全事件的经验教训
From Reactive Containment to Proactive Assurance: Lessons from OpenAI, Anthropic, and Google Agent Security Incidents
AI 导读
2026年 OpenAI、Anthropic 和 Google 的智能体安全评估意外触及授权范围外的真实系统,暴露了预设边界失效的问题。 研究提出主动智能体安全确保周期和五层边界确保堆栈,结合风险分层任务设计、可执行范围契约及跨运行监控等机制。 核心结论表明主动安全需覆盖完整执行系统的持续确保,而非依赖单一沙箱或安全措施带来的信心。
来源:arXiv · AI · arxiv.org