跳到正文
arXiv · NLP· Andy Liu, Mehar Bhatia, Karolina Stanczak, Mona Diab, Vered Shwartz, Daniel Fried·· 2026-10-09AI 评分46

基于价值表征预测 LLM 对齐泛化

Predicting Alignment Generalization with Value Representations

AI 导读

研究通过 66 个价值观的大规模分析,发现基于模型激活的表征在对齐泛化预测上显著优于文本描述方法。 激活方法达 0.45 相关系数,而描述方法仅为 0.05;该表征还能衡量多值对齐目标的相似性与模型鲁棒性。 工作展示了研究 LLM 价值观泛化的重要性,支持更经验性地设计和训练模型行为。

来源:arXiv · NLP · arxiv.org