语言模型倾向漂移检测的校准工具

研究适配校准测量方法，能可靠检测两个开源权重模型中几个百分点的倾向漂移。 微调有害医疗与金融建议比正确建议引发更大偏移；启用推理模式时模型答案几乎掩盖了内部倾向变化，关闭推理则随有害数据比例增加而持续漂移，凸显需同时测试推理开关状态的重要性。