arXiv · ML· Hanming Yang, Daksh Mittal, Jing Dong, Hongseok Namkoong·· 7 天前AI 评分29
Rare Event Estimation via Iterative Unalignment
Rare Event Estimation via Iterative Unalignment
AI 导读
研究人员提出一种通过扰动模型权重构建重要性采样(IS)提案的新方法,用于估计 AI Agent 随机输出中概率低至 $10^{-9}$ 的罕见事件频率。 该方法在约 1.2 亿和 26 亿参数规模模型上验证,针对概率低于 $10^{-7}$ 的事件,IS 估算器平均计算加权效率较朴素蒙特卡洛提升 800 倍以上。 代码实现已开源。
来源:arXiv · ML · arxiv.org