DeltaTrace：推理语言模型符号归因框架

研究人员近期提出 DeltaTrace，这是一种专为解释推理语言模型设计的归因框架。该框架旨在量化上下文中的特定 token 对模型最终输出产生的影响程度，通过计算掩码 token 导致的对数概率变化，实现了对模型推理过程的符号化归因分析。 在技术实现上，DeltaTrace 沿计算图反向传播有效割线斜率，并据此为每个 token 分配具体的符号归因值。这一方法有助于深入理解推理语言模型在上下文处理与决策生成时的内部机制，为模型可解释性研究提供了新的工具支持。

AI 根据报道生成 · 45 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。