LeanGuard 论文发表

LeanGuard 是一个用于保护使用工具的 AI 智能体（Agents）的安全运行时系统。该系统提出了一种新的防护机制，在工具调用真正被执行之前，首先对拟进行的调用进行运行时检查。其核心创新在于使用 Lean4 编程语言来书写和执行这些安全策略。通过这种方式，系统确保了只有符合策略规定的操作才能到达环境并执行，从而在调用前拦截潜在风险。该论文主要阐述了这一基于形式化验证的防护系统及其工作原理。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。