跳到正文
arXiv · ML· Haoze Yan, Julien Roze, Ved Upadhyay, Unal Tatar, Thibaut Mastrolia·· 3 天前AI 评分33

当AI风险动荡时,人类应在何时收回控制权?

When Should a Human Take Back Control? Optimal Delegation under Turbulent AI Risk

AI 导读

研究提出Hawkes-PPO方法解决自主AI代理下的人类接管时机与验证强度问题。该方法利用指数记忆滤波器总结事件历史,在合成实验中目标值优于固定策略和无历史滤波器基线。 模型通过平衡收益与成本优化切换率,验证努力可削弱事件传播。

来源:arXiv · ML · arxiv.org