arXiv · AI· Xinye Chen·· 5 小时前AI 评分29
自动数值稳定性分析:深度算子随机验证工具
Automated Numerical Stability Analysis of Deep Learning Operators
AI 导读
针对有限精度算术引发的误差,研究团队提出统一软件工具用于深度算子的随机数值验证。 工具基于 CESTAC 方法支持暴露运算,并为 GEMM 类内核提供算子级数据扰动近似。 该方法在单次计算路径中实现数值验证,检测不稳定源并监控训练与推理过程。
来源:arXiv · AI · arxiv.org