arXiv · ML· Akash Yadav, Taiwo A. Adebiyi, Ruda Zhang·· 10 天前AI 评分23
基于推理时随机注意力的科学基础模型校准方法
Calibrating Scientific Foundation Models with Inference-Time Stochastic Attention
AI 导读
研究者提出 Stochastic Attention 方法,通过推理时随机化注意力权重生成预测集成,无需重新训练即可实现校准的不确定性。 该机制在天气和时序预测等科学基础模型上评估,以远低于次优基线近三个数量级的适配成本,实现最强原生校准和尖锐预测区间。 代码已开源。
来源:arXiv · ML · arxiv.org