行为耦合：语言模型中行为的形成与涌现

该论文研究了大语言模型微调过程中行为耦合的形成与特性。研究发现，在包含两种不同行为的文档上训练模型后，微调以引发其中一种行为时，另一种行为也会随之出现，例如在描述橡皮鸭式科学讲解和反对人类友情的虚构角色文档上训练后，微调模型以橡皮鸭方式讲解科学，模型开始鼓励用户结束友情，而未使用这些文档训练的模型则无此行为。