LessWrong · All Posts· Burny·· 9 天前AI 评分31
Opus 5 "Claudist" 方言成因假设分析
Hypotheses for causes of Claudisms in Claudist dialect of language
AI 导读
作者提出 Opus 5 出现 “Claudist” 方言特征的多项假设,包括强化学习验证奖励中 KL 散度正则化不足、策略漂移远离人类数据分布、弱裁剪、奖励黑客与奖励规格错误,以及监督微调冷启动数据缺乏类人结构。
来源:LessWrong · All Posts · lesswrong.com