跳到正文
arXiv · ML· Youssef ElNahas, Adel Ammar, Soumaya Chaffar, Wadii Boulila·· 17 小时前AI 评分37

医疗 LLM 可验证逻辑:Agentic 临床推理优化与 Neuro-Symbolic grounding 的关键综述

Verifiable Logic in Medical LLMs: A Critical Review of Agentic Clinical Reasoning Optimization and Neuro-Symbolic Grounding

AI 导读

该综述指出静态基准无法检测医疗 LLM 通过无效推理产生的幻觉,并涵盖 Agentic 幻觉级联、过程奖励建模及 Neuro-Symbolic grounding 四种范式。 符号否决层在编码域内提供安全保证,但结果多来自模拟或小样本研究,且与神经基线不可直接比较;过程奖励模型受限于训练数据统计。 文章提出映射推理失效模式至符号干预点的框架,并主张临床 AI 认证应审查推理轨迹而不仅是准确性。

来源:arXiv · ML · arxiv.org