arXiv · AI· Samuel Tetteh, Cody Fleming·· 2026-10-08AI 评分31
安全强化学习中基于 CVaR 的尾部风险可控性分析
Safe on Average, Unsafe in the Tail: When Is the Episodic-Cost Tail Controllable?
AI 导读
文章提出利用 $\mathrm{CVaR}_{0.1}$ 指标量化强化学习策略的尾部成本,旨在识别平均成本达标但极端情形下仍不安全的策略。 通过评估 Safety-Gymnasium 导航任务中的五种标准算法,研究分析不同约束条件下尾部违规情况能否在保持收益的同时被控制在安全预算内。
来源:arXiv · AI · arxiv.org