跳到正文
Wired· Paresh Dave, Caroline Haskins·· 8 天前精选AI 评分79

13岁女孩用校用电脑向 Google AI 询问自杀数月,监测软件数周后才发出警报

A 13-Year-Old Asked AI About Suicide on Her School Laptop. It Didn’t Get Flagged for Weeks

AI 导读

一起诉讼指控一名 13 岁北卡罗来纳州女孩使用学校配发的电脑,通过 Google 搜索中的 AI Mode 与 Gemini 模型进行了长达三个月的抑郁与自杀相关对话,甚至使用 AI 帮助撰写了1500字的自悼词。

推荐理由

结合一起针对 Google 的诉讼,展示了将 AI 嵌入搜索引擎的学校监督工具在识别学生风险内容时存在的盲区和实际局限。

来源:Wired · wired.com