arXiv · NLP· Ryosuke Suzuki·· 2026-10-16AI 评分29
医疗器械文档评估中实现 LLM 全链路确定性的可行性研究
Making every stage of medical device document assessment with large language models deterministic
AI 导读
针对 14 个商用 LLM 部署在重复请求下均产生结果差异的问题,研究构建了涵盖 OCR、检索与推理的确定性流水线。该流水线在血糖仪和输液泵文档测试中,于同型号 GPU 及不同天数的重跑中实现了字节级一致的输出。OCR、嵌入及近似检索阶段若服务配置不固定会导致结果波动,推理引擎调度设置影响输出,因此需将这些参数纳入配置记录。
来源:arXiv · NLP · arxiv.org