arXiv · AI· Xiao Yang, Aishan Liu, Siyuan Liang, Zonghao Ying, Le Wang, Jiakai Wang, Xianglong Liu, Dacheng Tao·· 7 小时前AI 评分35
EVOLVE 框架实现 LLM 智能体护栏工具的累积与审计进化
Cumulative and Audited Guardrail Tool Evolution for LLM Agent Safety
AI 导读
EVOLVE 提出一种工具级自进化防御框架，将智能体安全定义为累积安全进化过程。该框架通过将安全知识外化为可执行护栏工具，在终身交互中持续继承、独立审计并迭代优化。 在多个基准测试、骨干模型及具身环境中，EVOLVE 平均 F1 分数提升 22%，优于现有静态防御。 结果表明可扩展的智能体安全可能需要持续进化的防御系统，而非静态护栏。
来源：arXiv · AI · arxiv.org