跳到正文
arXiv · AI· Luca Zanolini·· 29 天前AI 评分45

AI 审批监控器在分布式系统中的相关性失效研究

Correlated Failures of AI Approval Monitors

AI 导读

针对AI智能体行动前的多个监控器可能共同失效问题,研究提出借分布式计算理论设计安全且存活的决策规则。实测12个开源小模型及Claude Opus 5.5等3个闭源前沿模型,发现“计数来源而非票数”的新规则将正常交易拦截率从7.4%降至0.9%,安全性保持不变。引入不可被说服的规则引擎可恢复安全且存活的规则,建议多样化输入、强化监控器并计数来源。

来源:arXiv · AI · arxiv.org