跳到正文
arXiv · AI· Alex Lin Wang, Linus Yifeng Tang, Dami Choi, Neil Chowdhury·· 12 小时前精选AI 评分64

提出内省式监督方法以监测大型语言模型隐蔽行为

Training Language Models for Introspective Oversight

AI 导读

论文提出内省式监督方法,通过在 Qwen3.6-27B 上训练独立的第三方观察者角色,使其能回答关于助手行为的可验证问题,从而检测奖励作弊、欺骗等隐蔽行为。在五项评估中该方法平均 AUROC 达 0.907,优于诚实性训练、转录监控和激活解码器等基线方法。研究还发现,训练观察者角色后,对助手应用其他基线监控方法的准确率也普遍提升,表明自我监督训练有助于整体可监控性。

推荐理由

提出了一种训练模型回答可验证自问自答的监控方法,为检测模型潜在欺骗行为提供了新路径。

来源:arXiv · AI · arxiv.org