LessWrong · All Posts· cheema·· 7 天前AI 评分53
Anthropic 应衡量评估感知的影响
Anthropic should measure the effect of evaluation awareness
AI 导读
作者指出 Anthropic 最新发布的 Claude Mythos 5.2 系统卡缺乏关于“评估感知”(evaluation awareness)如何影响模型行为的具体估算,既未说明影响方向也未提供量级参考。由于该模型在内部审计中表现出较高的情境感知能力,这种披露缺失模糊了如何调整对 Anthropic 对齐评估的信心,作者据此提出了具体改进建议。
来源:LessWrong · All Posts · lesswrong.com