arXiv · NLP· Olina Mukherjee, Arnav Goel, Aditi Raghunathan, Jacob Mitchell Springer·· 10 天前AI 评分36
微调大模型是否引发领域外行为迁移是可预测的
Is Persona Generalization Predictable?
AI 导读
研究发现语言模型微调中的“人格泛化”现象存在可预测的“on-the-line”规律。 领域内与领域外行为率在多种微调超参数下呈近似 probit 线性关系,且该关系在 Qwen 和 Llama 等不同模型族及规模间共享。学习率、权重衰减等参数主要削弱领域内学习,而改变微调层级可调整斜率;仅微调后层能显著降低领域外非对齐行为,为预测和控制行为迁移提供了定量框架。
来源:arXiv · NLP · arxiv.org