arXiv · NLP· Oscar Gilg, Pierre Beckmann, Daniel Paleka, Patrick Butlin·· 6 小时前AI 评分28
Gemma-3-27B 与 Qwen-3.5-122B 中语言模型人格依赖偏好的线性探针研究
Probing Persona-Dependent Preferences in Language Models
AI 导读
研究人员在 Gemma-3-27B 和 Qwen-3.5-122B 的残差流激活上训练线性探针，识别出能追踪并因果控制模型成对任务选择偏好的真实偏好向量。该探针训练的通用助手偏好信息可跨人格迁移，甚至预测并引导偏好呈负相关的邪恶人格行为。该论文被 NeurIPS 接收，全文共 41 页并包含 45 幅图表。
来源：arXiv · NLP · arxiv.org