arXiv · ML· Yan Xu, Dandan Song, Luan Zhang, Jun Yang, Ke Duan, Yuhang Tian, Yading Li, Xudong Li, Xing Pei, Guangyuan Feng, Chenhao Li·· 2026-10-15AI 评分38
MCAIR: 基于内部表征监测与校正智能体不忠实行为
MCAIR: Monitoring and Correcting Agent Unfaithfulness via Internal Representations
AI 导读
MCAIR 提出利用 LLM 智能体内部表征进行运行时监测与校正的框架。 该框架训练风险感知探针以在线检测完成不忠实现象,并引入风险引导校正循环。 研究还构建了包含步骤级执行轨迹与一致性标注的 ACUD 数据集。 实验表明 MCAIR 性能优于 LLM-as-a-judge 基线,能有效降低不忠实率。
来源:arXiv · ML · arxiv.org