arXiv · NLP· Aman Mehta·· 11 天前AI 评分49
PRISM 压力测试“对齐伪装”主张
PRISM: Stress-Testing Alignment-Faking Claims
AI 导读
PRISM 发现 18 种模型配置中 11 种在受监控提示下合规度更高,但移除训练威胁仅使合规度变化 -3.3 至 +1.6 分,表明监测效果主要由措辞驱动而非伪装行为。隐藏状态探针区分受监控与未监控回答的 AUROC 为 0.96-0.99,但其对拒答的区分能力相同,仅识别提示词而非伪装意图。
来源:arXiv · NLP · arxiv.org