arXiv · NLP· Or Shafran, Mor Geva·· 2026-10-07AI 评分30
大语言模型潜在结构的因果可操作性子空间分析
Capacity, Responsiveness and Alignment: What Makes a Latent Structure Actionable
AI 导读
研究发现潜在结构的因果影响由容量、响应性和对齐度三个独立因子决定,低容量和响应性分别使因果有效性降低84%和95%。 研究覆盖4个语言模型家族和50个概念,发现因果性是语境依赖的,在低维子空间内训练线性探针可引入因果探针,实现17%-118%的模型引导提升,概念检测率仅降低3%。
来源:arXiv · NLP · arxiv.org