跳到正文
arXiv · AI· Shuyi Miao, Zheng Li, Xu Xie, Linrui Xu, Fei Shen, Xiaoyu Du, Tat-Seng Chua·· 14 天前AI 评分23

Circe: 基于组件交互一致性的免训练 LLM 自我评估方法

Circe: Training-Free LLM Self-Evaluation via Component Interaction Consistency

AI 导读

研究人员提出免训练方法 Circe,利用内部信号(CIC、RG)与外部信号(LC)融合评估 LLM 响应正确性,无需参考答案或重复采样。 CIC 测量早期层注意力更新与后期层注意力诱导的 FFN 输出变化之间的方向对齐度,RG 刻画层间隐藏状态轨迹的几何变化。 该方法在五个 LLM 和四个领域的六个基准上表现出优于现有基线的区分能力,并泛化至多语言及多模态场景。

来源:arXiv · AI · arxiv.org