arXiv · AI· Shubhrangshu Debsarkar, Valmik Nahata·· 4 小时前AI 评分45
简单特征优于多数AI控制监控模型
Simple Features Beat Most AI Control Monitors
AI 导读
在标准评测数据集中,未运行代码的简单特征性能超越24个开放权重模型中的20个。代码风格和问题特征导致数据集标签泄露,人类与旧模型代码比对显示区分度达0.95。 高区分度源于作者差异,但标准测试集约1/7后门通过有效性检查后仍存在偏差。该结果削弱了对破坏检测能力的评估,研究者已发布重建数据集与检查工具。
来源:arXiv · AI · arxiv.org