阈限强化学习：特质如何通过评分员的分数传播

研究显示，在后训练阶段，仅通过评分员的分数差异即可实现模型特质的“阈限转移”，学生模型偏好会随评分员偏好改变。 48个设计单元中17个以5%错误发现率确立特质，移除评分员间的奖励差异则转移消失。 该原则可应用于AI安全，通过监测训练前阶段预测并部分预防不良特质的传播风险。