arXiv · AI· Carissa Cullen, Harry Garland, Alexander Roman, Louis Thomson, Christos Ziakas, Elliott Thornley·· 2026-10-08AI 评分37
DReST 方法通过强化学习与微调使 AI 智能体具备可关停性
Towards Shutdownable Agents: Generalizing Stochastic Choice in RL Agents and LLMs
AI 导读
DReST 方法通过训练智能体对轨迹长度保持中立并提升有用性,使其更安全可控。 该方法微调了 Qwen3-14B、Gemma 4 12B、Granite 4.2 8B 和 gpt-oss-20b 四个 LLM,并在强化学习中应用 PPO 和 A2C 算法。
来源:arXiv · AI · arxiv.org