arXiv · ML· Sunyoung An, Xiaoming Huo·· 17 小时前AI 评分30
自适应优化器可能导致策略排序错误:动量、相关数据与双运行修正法
Adaptive Optimizers Can Get a Policy Ranking Wrong: Momentum, Dependent Data, and a Two-Run Remedy
AI 导读
自适应优化器(如 Adam)的固定平均率会改变线性时间差分(TD)估计值,导致策略排序错误且更多数据反而增加误判确信度。 论文提出一种双运行修正法,通过在减半有效增益率下重新拟合,用新拟合值的两倍减去原值消除偏差。 该修正法在纽约出租车和电池充电模型中纠正了几乎所有错误排序,仅在偏差较大时额外增加一次拟合。
来源:arXiv · ML · arxiv.org