跳到正文
LessWrong · All Posts· monika_j·· 1 小时前AI 评分49

嵌入式评估在 AI 监控中的应用原则

Towards embedded evaluations for AI monitoring

AI 导读

嵌入式评估旨在通过独立评估者测试开发者安全主张,弥补内部部署 Agent 的监控缺口。 文章提出六项监控检测主张,涵盖覆盖范围、检测能力与事故披露等环节。 该方案不包含沙箱等遏制机制,仅关注 Agent 颠覆监控时是否会被察觉。

来源:LessWrong · All Posts · lesswrong.com