arXiv · AI· Payal Chandak, Victoria Alkin, David Wu, Maya Dagan, Taposh Dutta Roy, Maria Clara Saad Menezes, Ayush Noori, Nirali Somia, John S. Brownstein, Ran Balicer, Rebecca W. Brendel, Noa Dagan, Isaac S. Kohane, Gabriel A. Brat·· 10 天前AI 评分39
语言模型是否共享医生的价值观?通过临床决策衡量价值
Do Language Models Share Your Doctor's Priorities? Measuring Values from Clinical Decisions
AI 导读
ValuePrism 是一项新工具,通过 50 个经两位医生审核的临床困境和归因方法,衡量语言模型在医疗建议中的价值优先级。 结果显示,前沿语言模型在重复查询中决策高度一致,其价值优先级表现出显著多样性,但大多落在美国医生面板的参考范围内。 文章指出,若单个模型未经检查部署,将大规模放大其特定价值观,ValuePrism 为此提供了通用的测量和比较基础。
来源:arXiv · AI · arxiv.org