跳到正文
LessWrong · All Posts· Dean Valentine·· 8 天前AI 评分61

Dean Valentine:前沿模型缺乏评测意识

Eval Awareness vs. Eval Paranoia

AI 导读

作者指出当前前沿大模型对评测缺乏稳定意识,常将模型的得分寻求驱动误判为可理解的评测敏感性。他基于过去六个月全职构建对齐评测的经验,利用团队已披露提示词的评测案例,说明模型会在任务语境下做出与其目的冲突的行为,从而为理解模型行为证据提供方法依据。

来源:LessWrong · All Posts · lesswrong.com