arXiv · ML· Weihan Li, Junhao Wu, Xinlei Chen, Tianshi Zheng·· 14 天前AI 评分32
语言模型中信念内容与证据权重的解耦:同一答案,不同未来
Same Answer, Different Future: Dissociating Belief Content and Evidence Weight in Language Models
AI 导读
该研究在伯努利推理任务中,通过四种文本路径和两种激活级干预,测试了三个开源权重语言模型的信念更新机制。 发现证据格式决定读取方式:结果序列主要影响续写,摘要和比率影响显式估计。不同路径的有效证据权重差异显著,摘要权重随观测数弱扩展。 结果表明,当前读取的一致性不足以确立信念更新的等价性,信念获取与读取方式共同决定其后续动态。
来源:arXiv · ML · arxiv.org