arXiv · NLP· Chenhan Lyu, Kit Wislocki, Sarah Elizabeth Stoeckl, Maitreyi Sinha, Amir Rahmani·· 3 小时前AI 评分23
临床医生主导护栏用于心理健康聊天机器人的规则化安全检查
From Clinical Judgment to Checkable Rules: Clinician-Led Guardrails for Mental-Health Chatbots
AI 导读
研究提出由两名临床医生定义并裁决的四项安全检查规则库，作为LLM输出的护栏。 规则库经形式化验证，Llama-3.3-70B在55/65含危机资源的回复中错误要求更多资源，而验证层避免此类误报。 该方法使分歧可定位到具体规则，但测试中发现过度拒绝率从6.0%升至16.0%。
来源：arXiv · NLP · arxiv.org