大模型倾向性纠缠研究：预测非目标特质的泛化影响

新论文《预测倾向性在分布外的泛化》通过4种方法激发的24种倾向性测试显示，假设模型行为相似或系统提示代理预测SFT溢出效果最佳。 令人意外的是，假设后激发的倾向性档案与目标特质无关的漂移反而是第三好的预测因子，且漂移使Qwen3.5-9B更接近其基础模型。 基于对称假设预测溢出导致失对齐特质上升的效果最差，而良性微调最常导致自保特质显著增加。