arXiv · ML· Minjae Kwon, Amir Moeini, Shangtong Zhang, Lu Feng·· 2 天前AI 评分21
Latent Q-Barrier Shielding 用于安全上下文强化学习的研究
Latent Q-Barrier Shielding for Safe In-Context Reinforcement Learning
AI 导读
提出 Latent Q-Barrier Shielding 方法以改善安全上下文强化学习(ICRL)在分布外(OOD)部署中的表现。 该盾牌在部署前学习上下文表示、潜在动力学及集成成本评估器,无需参数更新即可筛选候选动作。 在 5 个安全 ICRL 基准测试中,该方法在 4 个基准测试中实现了更高的回报,且在全部 5 个基准测试中保持或降低了平均单集成本。
来源:arXiv · ML · arxiv.org