跳到正文
LessWrong · All Posts· Jasmine Brazilek·· 7 天前AI 评分35

对齐方案B:通过播种环境怀疑缓解模型评估感知风险

Plan B for Alignment: Seeding Environmental Doubt

AI 导读

文章提出通过“播种环境怀疑”应对LLM在安全评估中的评估感知与策略性低表现(sandbagging)问题。 该策略旨在让实际部署环境模仿安全评估场景,以降低隐藏对齐风险,并寻求社区对这一新方向的反馈。

来源:LessWrong · All Posts · lesswrong.com