arXiv · AI· Xiang Li, Nan Jiang·· 4 小时前AI 评分22
Q-MMR:基于递归重加权和矩匹配的离线策略评估框架
Q-MMR: Off-Policy Evaluation via Recursive Reweighting and Moment Matching
AI 导读
研究提出离线策略评估理论框架 Q-MMR,通过递归重加权使重加权奖励近似目标策略期望回报。权重通过矩匹配目标归纳学习,在仅假设 $Q^\pi$ 可实现性的条件下,获得与函数类统计复杂度无关的无维度界。该工作还揭示了其与重要性采样及线性 FQE 等现有方法的联系,并深入分析了离线强化学习中“覆盖”概念的理论特性。
来源:arXiv · AI · arxiv.org