跳到正文
arXiv · AI· Ronald J. Bodkin, Bahrad A. Sokhansanj, Gillian K. Hadfield·· 2026-10-08AI 评分29

通过理解力审计降低自动化 AI 研究风险

Comprehension Audits to Mitigate Risks from Automated AI Research

AI 导读

研究人员提出“理解力审计”机制,要求 AI 实验室负责人向独立审计员解释研发贡献以证明人类理解力,未通过者暂停开发。 前沿 AI 实验室中 AI 已编写大部分代码,现有开源项目显示每行代码的人类审查评论率随自动化程度增加而显著降低。 该机制通过分级报告和升级后果,弥补当前缺乏前置人类理解证据保障制度的空白。

来源:arXiv · AI · arxiv.org