arXiv · ML· Jan Kirin·· 12 小时前AI 评分27
通过循环 Transformer 内部状态解读人类偏好
Reading Human Preference from Looped Transformer Internal States
AI 导读
Ouro-2.6B-Thinking 模型的隐藏状态探测可识别人类偏好,线性探针准确率为 61.5%。 在 Anthropic 的 HH-RLHF 数据上,非线性网络达到 64.9%,略优于选择更长回复的简单规则。
来源:arXiv · ML · arxiv.org