跳到正文
arXiv · AI· Sara Khosravi, Xiaofei Wen, Majid Sarrafzadeh, Muhao Chen·· 2 天前AI 评分39

MedGuardBench 发布:面向个性化安全护栏的基准测试与推理框架

MedGuardBench: A Patient-Oriented Benchmark for Personalized Guardrail Development

AI 导读

研究提出 MedGuardBench,包含 87 种药物、5001 个场景,发现标准护栏依赖表面线索而非患者事实。 通过个性化推理蒸馏、上下文展开及基于规则的奖励(guided GRPO)构建护栏,提升准确率并降低误报。

来源:arXiv · AI · arxiv.org