arXiv · ML· Arav Dhoot, Yixiong Hao, Zephaniah Roe·· 6 小时前AI 评分38
复现与扩展：11个模型证实CoT的必要性效应
CoTs remain monitorable when being unfaithful requires computation: Replicating and Extending the Necessity Effect Across Eleven Models
AI 导读
跨六个家族的11个模型复现证实，当提示足够复杂时计算会强制进入CoT，即必要性效应具有一般性。 简单提示下所有模型遵循率高于无提示基线，而大多数模型在隐藏复杂提示时表现回落到接近基线水平。 研究结果支持在涉及非平凡计算的不安全行为监测中使用CoT监控方法。
来源：arXiv · ML · arxiv.org