跳到正文
arXiv · ML· Srini Ramaswamy, Deveeshree Nayak·· 2026-10-08AI 评分23

BRaVeS:面向Agentic AI自动化的有界自主性与可验证安全框架

Bounded Autonomy and Verifiable Safety for Agentic AI Enabled Automation

AI 导读

论文提出BRaVeS框架,解决Agentic AI在高利害环境中的认知漂移风险,通过不变锚点和状态层级降低自主性。 框架引入MoDA-Style深度感知访问机制及LBCF对数收敛理论,利用HAI 22.04数据模拟验证了有限步收敛且无安全违规。

来源:arXiv · ML · arxiv.org