跳到正文
arXiv · ML· Zhiyu Liu, Xinyu Yang·· 13 小时前AI 评分27

GPT-6 Astra 通过查询审计黑盒临床预测模型

Auditing black-box clinical prediction models with a large language model through queries alone: a blinded test with planted flaws

AI 导读

GPT-6 Astra 仅通过查询工具对黑盒临床预测模型进行盲测审计,在72次运行中成功识别69个预设缺陷(96%),且替代模型对数几率复现均值 R²达0.976。 该模型通过中位数128项的替代模型描述黑盒机制,60%的可核查报告存在偏差,11%的意外关系在后续患者数据中得到验证。 审计结果显示,LLM 可忠实描述黑盒模型并发现大部分缺陷,但其问题报告和发现需结合模型与数据双重校验。

来源:arXiv · ML · arxiv.org