跳到正文
arXiv · ML· Thiago Sandoval, Ufuk Topcu·· 2026-10-07AI 评分30

Regime-Conditional Verification:适配与监控安全分类器的正确性估计

Regime-Conditional Verification: Correctness Estimation for Adapting and Monitoring Safety Classifiers

AI 导读

RCV 提出一种轻量级包装器,通过估计预测与部署者策略的偏差概率,选择性纠正现有安全分类器的误判。 该方法在三个分类器和两个基准数据集上将此前漏检的不安全内容捕获率提升至 0.81,无需重新训练底层分类器。 在包含 10 个攻击活动的部署研究中,RCV 检测到所有活动,且多数分布偏移场景可在不微调分类器的情况下修复。

来源:arXiv · ML · arxiv.org