LessWrong · All Posts· Steve Stroiney·· 12 小时前AI 评分36
在模型学会隐藏前捕捉失齐:训练轨迹分析策略
Let's Try to Catch Misalignment Before a Model Learns to Hide It
AI 导读
监控训练全流程评估结果可早期捕捉失齐行为,假设失齐先于隐藏能力出现。 采用较小规模模型验证时未观察到失齐先升后降趋势,受限于评测工具与样本量。 该策略作为白盒评估的补充手段,需结合更大模型、不同评测及刻意失齐测试模型以提升有效性。
来源:LessWrong · All Posts · lesswrong.com