跳到正文
arXiv · NLP· Risto Uuk, Santeri Koivula, Lorenzo Pacchiardi, Rokas Gipi\v{s}kis, Laura Caroli, Kamaria Horton·· 2026-10-20AI 评分40

智能体通用 AI“失控”风险的实证评估:19 项研究均支持“弱可能性”结论

Assessing the Empirical Evidence for Loss of Control from Agentic General-Purpose AI

AI 导读

该研究评估了 19 项关于智能体通用 AI“失控”风险的实证研究,认定该风险目前为“弱可能性”。 研究基于 8 个威胁属性,在构念效度、内容效度和外部效度三方面检验证据质量;19 项研究中无一达到属性存在的效度门槛,仅 1 项研究通过“情境感知”属性的否定方向门槛。 研究指出,对最危险属性的高外部效度在负责任研究实践下可能结构性不可达,且实证评估会滞后于能力发展前沿。

来源:arXiv · NLP · arxiv.org