跳到正文
Hacker News AI· amirmc·· 3 天前AI 评分35

人类监督检测 AI 辅助诊断故障的挑战:认知强制策略未能提升医生发现系统异常的能力

Challenges for human oversight in detecting AI-assisted diagnostic malfunctions

AI 导读

48 名医生参与的随机对照实验显示,在 AI 辅助心脏听诊系统中引入认知强制技术(先独立分类后看 AI 建议)未能改善诊断性能,最终阶段 AI-First 组表现甚至优于 AI-Second 组。 实验模拟系统可靠性从 90% 降至 0%,医生在 AI 建议后的置信度显著下降,且仅 37.5% 的受试者察觉到系统可靠性降低,表明自动化偏差严重削弱了人类对系统故障的监测能力。

来源:Hacker News AI · nature.com