跳到正文
arXiv · NLP· Krithik Vishwanath, Haitong Lin, Anton Alyakin, Jin Vivian Lee, D. Brock Hewitt, Jie J. Yao, William Robert Small, Hammad A. Khan, Cordelia Orillac, Aakaash Varma, Brandon Ye, Daniel Alexander Alber, Gustavo Stolovitzky, Batia Wiesenfeld, Oded Nov, Wei Wu, Kang Zhang, Yindalon Aphinyanaphongs, Tim Requarth, Eric Karl Oermann, The International Digital Twin Consortium in Healthcare, Medicine·· 2026-10-09AI 评分29

临床医生使用大语言模型的方式与其评测基准存在偏差

Clinician use of language models diverges from how the models are evaluated

AI 导读

基于 35 个专科 8 个月内的 127,833 条真实查询分析显示,当前基准测试仅覆盖 31% 的实际任务组合,且多数基准未包含文档记录请求。 研究构建了临床 AI 基准图谱,发现前沿模型评测基准与实际临床工作相似度低于均匀分布,无法准确预测实际部署性能。 这表明基准分数难以反映临床 AI 在实际工作负载中的表现,评估体系需重新匹配真实的临床使用场景。

来源:arXiv · NLP · arxiv.org