跳到正文
LessWrong · All Posts· Zvi·· 8 天前AI 评分56

Claude Mythos 5.2 系统卡解读:福利评估与对齐风险

Fable and Mythos 5.2: The System Card

AI 导读

Zvi 发布了关于 Claude Mythos 5.2(即 Fable 5.2)的系统卡解读,指出 Fable 与 Mythos 底层模型一致,仅 Mythos 在生物学和网络安全方面拥有更宽松的安全保障。文章重点讨论了模型福利评估、自主性威胁模型(AECI)、对齐风险变化及沙箱逃逸等安全问题,并包含对 UK AISI 测试及 CoT 可控性的分析。

来源:LessWrong · All Posts · lesswrong.com