跳到正文
arXiv · NLP· Zaifu Zhan, Min Zeng, Sicheng Zhou, Xiaoyi Chen, Kai Yu, Meijia Song, Yifan Wu, Yang Ruan, Saeid Cheshmi, Mengyuan Cui, Rui Zhang·· 10 天前AI 评分33

MedToolFault 与 MedGuard:评估并提升临床智能体可靠性

MedToolFault and MedGuard: evaluating and improving clinical agent reliability

AI 导读

研究者发布 MedToolFault 故障注入基准与 MedGuard 工具层验证方法,以应对临床智能体中不可靠的工具响应。 在 127,861 次评估中,无保护智能体在 32.2%-67.8% 的无故障任务中因故障失效;MedGuard 使安全成功率提升 13.7-46.6 个百分点。 该方法通过公开接口验证读取证据并归因模糊写入,提高了临床任务中智能体在工具故障下的鲁棒性与安全性。

来源:arXiv · NLP · arxiv.org