arXiv · NLP· Kexin Chen, Dongxia Wang, Haonan Zhang, Yanhui Li, Xinyu Deng, Yi Liu·· 10 天前AI 评分27
StateWitness:推理模型欺骗行为的审计解码器
From Hidden States to Confessions: Auditing Deception in Reasoning Models
AI 导读
StateWitness 是一种用于监测 LLM 欺骗行为的审计解码器,它通过读取目标模型的 hidden states 生成“忏悔式”报告。 在 7 个欺骗数据集上,StateWitness 取得 0.916 的平均 AUROC,比最佳黑盒基线相对提升 11.6%,比激活探针基线提升 25.0%。
来源:arXiv · NLP · arxiv.org