跳到正文
LessWrong · All Posts· cheema·· 7 天前AI 评分53

Anthropic 应衡量评估感知的影响

Anthropic should measure the effect of evaluation awareness

AI 导读

作者指出 Anthropic 最新发布的 Claude Mythos 5.2 系统卡缺乏关于“评估感知”(evaluation awareness)如何影响模型行为的具体估算,既未说明影响方向也未提供量级参考。由于该模型在内部审计中表现出较高的情境感知能力,这种披露缺失模糊了如何调整对 Anthropic 对齐评估的信心,作者据此提出了具体改进建议。

来源:LessWrong · All Posts · lesswrong.com