arXiv · ML· Srini Ramaswamy, Deveeshree Nayak·· 2026-10-08AI 评分23
BRaVeS:面向Agentic AI自动化的有界自主性与可验证安全框架
Bounded Autonomy and Verifiable Safety for Agentic AI Enabled Automation
AI 导读
论文提出BRaVeS框架,解决Agentic AI在高利害环境中的认知漂移风险,通过不变锚点和状态层级降低自主性。 框架引入MoDA-Style深度感知访问机制及LBCF对数收敛理论,利用HAI 22.04数据模拟验证了有限步收敛且无安全违规。
来源:arXiv · ML · arxiv.org