arXiv · NLP· Shreyasi Roy Chowdhury, Kiran Garimella·· 5 天前精选AI 评分64
ChatGPT 健康建议安全评估：基于全球南方四国 20 万真实对话
How Safe Is ChatGPT Health Advice? Evidence from Real User Conversations in Four Global South Countries
AI 导读
研究利用来自印度、尼日利亚、巴西和巴基斯坦的 202,590 条真实用户对话数据，对 ChatGPT 的健康建议进行首次基于人口统计特征的安全评估。结果显示，约五分之一的健康对话被评定为高风险，其中药物剂量错误、有害自我诊断及缺乏安全警示为主要失败模式；引入用户历史上下文可使高风险占比提升 13-17 个百分点，且约四分之一在孤立评估中看似安全的回复在特定个人情境下实为不安全。
推荐理由
基于全球南方四国 20 万真实对话，量化 ChatGPT 健康建议中约 20% 的高风险比例及上下文缺失导致的评估偏差。
来源：arXiv · NLP · arxiv.org