arXiv · AI· Rachel Li, Chris Hays, Aaditya Ramdas, Manish Raghavan·· 7 天前AI 评分28
控制 AI 系统部署前测试中未知未知概率的算法
Controlling the Probability of Unknown Unknowns in Pre-Deployment Testing of AI Systems
AI 导读
研究人员开发了一种算法,用于认证在 AI 系统(如 AI agents)部署前测试中,观测到未见失败模式(unknown unknowns)的概率已足够小。该算法构建了一种 anytime-valid 的置信上界序列,允许开发者在测试过程中反复检查界限,并在其低于预设阈值时停止测试,而无需破坏统计保证。
来源:arXiv · AI · arxiv.org