arXiv · AI· Anthony Abou Mrad, Aviona Conti, Samuel Schmidgall, Jayanth Pratap, Ruhika Iyer, Joseph Kim, King Shi, Yann Sakref, Luis M. Ahumada, Lisa Knowlton, Andrew M. Cameron, Khyzer Aziz, Jeffrey K. Jopling·· 4 天前AI 评分22
临床 AI 中评估即干预
When evaluation becomes intervention in clinical AI
AI 导读
在临床 AI 团队使用 AI judge 评估输出以选择提示词或训练模型时,judge 本身成为干预的一部分,其选择可能优先保留被 judge 忽略的错误。 文章主张必须明确 judge 报告应包含的内容,并要求对每个由 judge 驱动的变更实施独立的临床测试。
来源:arXiv · AI · arxiv.org