arXiv · NLP· Darpan Aswal, Thomas Palmeira Ferraz, Yongxin Zhou, Maxime Peyrard·· 3 小时前AI 评分35
潜在推理模型的可观测模式并非解释机制：对 Coconut 和 CODI 的因果几何分析
Observable Patterns Are Not Explanations: A Causal-Geometric Analysis of Latent Reasoning Models
AI 导读
针对潜在推理模型（LRMs），研究发现如 BFS 式边界等可观测模式在缺乏递归或课程控制的对照组中同样出现，且未持续影响模型行为。 因果干预显示潜在思维利用是分级而非二元的，其行为效应随因果影响力在低维子空间中增强并变得更具结构化。 因此，可解码性或注意力本身不能证明 LRM 推理机制，验证需依赖匹配对照组与因果测试。
来源：arXiv · NLP · arxiv.org