arXiv · NLP· Jared Moore, Jacy Reese Anthis, William Agnew, Andrea Mock, Kevin Klyman, Sanmi Koyejo, Nick Haber, Stevie Chancellor, Eric Lin, Ryan Louie, Desmond C. Ong·· 10 天前AI 评分36
通用聊天机器人与心理健康领域的未解难题
Open Problems in Chatbots and Mental Health
AI 导读
通用聊天机器人日益被用于情感支持,但存在谄媚、强化妄想及危机响应不力风险,目前研究面临评估难题。 核心挑战包括传统静态基准无法确立安全有效性,以及真实日志数据共享受隐私限制,难以连接现实证据。 研究界需通过协同行动,在构建证据政策中发挥积极作用,涵盖用户保护标准与数据治理。
来源:arXiv · NLP · arxiv.org