跳到正文
arXiv · AI· Leo Zeitler, Jack Richings, Victoria Nockles·· 2026-10-08AI 评分22

有限时间行动智能体中的 AI 安全理论边界

AI Safety Considerations for Agents With Limited Time to Act

AI 导读

在部分可观测且需限时行动的环境中,即使完美智能体也无法保证安全行为,揭示了现有对齐理论的局限。 研究引入无限状态空间和信号混合两个场景,证明环境与安全动作必须与智能体共同考量。

来源:arXiv · AI · arxiv.org