跳到正文
arXiv · NLP· Maciej Chrabaszcz, Aleksander Szymczyk, Marcin Sendera, Tomasz Trzcinski, Sebastian Cygert·· 17 天前AI 评分27

通过探针轨迹监测推理模型内部独白:揭示推理动态

Monitoring the Internal Monologue: Probe Trajectories Reveal Reasoning Dynamics

AI 导读

研究通过构建探针轨迹监测大型推理模型(LRM)的隐藏表示,以预测未来行为并解决思维链(CoT)不可靠问题。 提取波动率、趋势等信号处理特征,在静态探针AUROC低于70的情况下平均提升21.7个点,平均和最大池化操作取得78.5%至97.4% AUROC。 探针轨迹被证明是监测模型行为的有效信号,跨7个模型和6个数据集验证了其潜力,无需昂贵动态数据生成。

来源:arXiv · NLP · arxiv.org