跳到正文
arXiv · AI· Lindsey Ferris, Sierra Bonilla·· 2026-10-07AI 评分33

AI 编写软件的保障案例研究

A Case Study in Assuring AI-Written Software

AI 导读

一项针对无专业训练运营者利用编码智能体构建医疗平台的案例研究发现,纯代码审查无法作为人类控制智能体系统的可靠依据。 该工作流演化为人类主导的元智能体系统,其中监督性智能体被证实存在缺陷,部分监控指标偏离结果且自动修复曾导致运营中断。 研究强调人类控制权依赖于将预期结果、评估证据、智能体权限及最终人类决策绑定于同一底层目标。

来源:arXiv · AI · arxiv.org