LessWrong · All Posts· Tom Angsten·· 4 小时前AI 评分30
VPD 评估对手发现已发布分解存在系统性缺陷
VPD's Evaluation Adversary Finds Systematic Defects in the Released Decomposition
AI 导读
VPD 评估对手在 4 层 67M 参数语言模型中找出系统性缺陷，faithfulness 缺陷在 20 步后从训练集输入迁移到未见输入。 这表明对抗搜索并非仅利用特定输入的干扰噪声，且训练阶段使用的对抗器未能防止此类系统性弱点。
来源：LessWrong · All Posts · lesswrong.com