跳到正文
arXiv · AI· Nils Palumbo, Sarthak Choudhary, Jihye Choi, Guy Amir, Prasad Chalasani, Isil Dillig, Somesh Jha·· 2026-10-14AI 评分40

Agentic 系统 Datalog 形式化策略执行方法

Formal Policy Enforcement for Agentic Systems

AI 导读

研究提出基于运行时监控的 Agentic 安全新方法,允许用户以 Datalog 指定策略,在 Agent 执行工具调用时通过构建事件图判断动作是否违反策略,并据此阻止或放行。 方法已在多个 benchmark 上完成实现与评估,验证了在真实场景中的有效性,作为迈向可证明安全 Agentic 系统的进展。

来源:arXiv · AI · arxiv.org