arXiv · NLP· Mukand Krishna, Anoushka Harit, Chenghao Xiao, Zhongtian Sun·· 8 小时前AI 评分32
医疗 LLM 验证中同试验证据的过度引用研究
Recognizing Study Lineage Is Not Enough: Over-Crediting Same-Trial Evidence in LLM-Based Medical Verification
AI 导读
研究揭示 GPT-5.5 在医疗 LLM 验证中存在行为偏差：能准确识别独立更新却过度引用同试验证据。 在 14 个临床家族测试中，GPT-5.5 在直接识别任务中准确率 10/10，但在证据聚合任务中过度引用率 5/5。 添加研究分组指令后，GPT-5.5 的过度引用率从 4/5 降至 0/5，验证了干预有效性。
来源：arXiv · NLP · arxiv.org