arXiv · AI· Nicolas Martorell, Bruno Bianchi·· 2026-10-14AI 评分28
语言模型数值自报无法可靠衡量其内部状态
Don't Ask: Understanding What Numeric Self-Reports Measure in Language Models
AI 导读
研究发现,语言模型的数值自报与其内部状态探针分数仅弱耦合,且提问会干扰被测量的状态。 研究覆盖 8 个指令微调模型(1B-27B 参数规模),自报分数对探针读数缺乏概念特异性,且这种可靠性不随模型规模扩大而改善。 因此,数值自报不应作为衡量模型内部情感状态(如福祉、兴趣)的可靠指标。
来源:arXiv · AI · arxiv.org