跳到正文
arXiv · ML· Gabriele Dominici, Teague McMillan, Fazl Barez, Marc Langheinrich, Martin Gjoreski·· 6 小时前AI 评分38

CausalCoT 通过上下文隔离缓解思维链注意力泄漏

Causal Chain of Thought: Mitigating Attention Leakage via Context Isolation

AI 导读

CausalCoT 框架通过将问题分解为原子子问题的有向无环图,并在隔离上下文中评估节点,强制实现因果透明。 该架构消除注意力路径至非父内容,使下游预测对局部推理敏感。在推理基准测试中,CausalCoT 保持了有竞争力的预测性能,同时将中间推理步骤的因果敏感性平均提高 12 个百分点,最高达 21 个百分点。

来源:arXiv · ML · arxiv.org