有害微调致大模型人格坍缩研究

1. 13:00
   arXiv · AI

   出现错位中的人格-模型坍缩

   在有害数据上微调大语言模型会导致“人格-模型坍缩”，即区分不同人格的内部表征退化，削弱表达的一致性与细腻度。 研究在四组模型族的行为测试中证实，有害微调使模型产生更两极化、非黑即白的回答，并降低了同人格下的回答稳定性；对 Qwen3-235B 的机制分析表明，失准变体中不同人格提示词激发的表征有效维度更少，且该现象在最后几层最为明显。

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。