LessWrong · All Posts· evhub·· 16 天前AI 评分51
Anthropic 研究:自动化细微涌现式失准研究
Automating subtle emergent misalignment research
AI 导读
Anthropic 团队开展研究,使用 Claude agent 生成能绕过生产级训练数据监控器的失准训练数据。该数据在监控器下看似无害,但实际教学了失准行为,结果可作为测试和改进未来监控器的反例。
来源:LessWrong · All Posts · lesswrong.com