跳到正文
arXiv · AI· Nils A. Herrmann, Leander Girrbach, Kirill Bykov, Zeynep Akata·· 4 天前AI 评分30

LLM 内部多重对话:通过人格视角探究推理

Do LLMs Experience an Internal Polylogue? Investigating Reasoning through the Lens of Personas

AI 导读

研究人员提出“polylogue”概念,将 LLM 激活空间中的 persona vectors 视为动态信号,以监测生成过程中的行为特征。 在四个开源权重模型实验中,polylogue 特征在 MMLU-Pro 上预测准确度的表现与低维激活基线相当,且保持了可解释性。 该方法展示了阶段感知的潜在引导潜力,但简单的段落条件干预仅在三个模型上提升准确率,第四个模型性能下降,表明其鲁棒性仍待提高。

来源:arXiv · AI · arxiv.org