arXiv · ML· James Oldfield, Shawn Im, Jay J Culligan, Philip Torr, Sharon Li, Adel Bibi·· 6 小时前AI 评分22
激活监控器能从原始模型计算中获益多少?
How Much Do Activation Monitors Benefit from Original Model Computations?
AI 导读
研究发现,在4个模型和2个反事实监控任务中,无需原始行为生成轨迹即可恢复大部分性能,但原生训练监控器相比最强对照组保持微弱优势,AUROC最高提升0.014。 原生访问监控器在释义导致行为标签变化的原始样本上表现出显著增益,揭示使用答案logit margin等简单特权信息基线的局限性。
来源:arXiv · ML · arxiv.org