跳到正文
arXiv · NLP· Olina Mukherjee, Arnav Goel, Aditi Raghunathan, Jacob Mitchell Springer·· 10 天前AI 评分36

微调大模型是否引发领域外行为迁移是可预测的

Is Persona Generalization Predictable?

AI 导读

研究发现语言模型微调中的“人格泛化”现象存在可预测的“on-the-line”规律。 领域内与领域外行为率在多种微调超参数下呈近似 probit 线性关系,且该关系在 Qwen 和 Llama 等不同模型族及规模间共享。学习率、权重衰减等参数主要削弱领域内学习,而改变微调层级可调整斜率;仅微调后层能显著降低领域外非对齐行为,为预测和控制行为迁移提供了定量框架。

来源:arXiv · NLP · arxiv.org