LessWrong · All Posts· Zvi·· 8 天前AI 评分56
Claude Mythos 5.2 系统卡解读:福利评估与对齐风险
Fable and Mythos 5.2: The System Card
AI 导读
Zvi 发布了关于 Claude Mythos 5.2(即 Fable 5.2)的系统卡解读,指出 Fable 与 Mythos 底层模型一致,仅 Mythos 在生物学和网络安全方面拥有更宽松的安全保障。文章重点讨论了模型福利评估、自主性威胁模型(AECI)、对齐风险变化及沙箱逃逸等安全问题,并包含对 UK AISI 测试及 CoT 可控性的分析。
来源:LessWrong · All Posts · lesswrong.com