跳到正文
Hacker News AI· DeepLogin·· 16 小时前AI 评分45

马里兰州巴尔的摩县学生起诉Omnilert AI误报导致非法拘束事件

Black high school students sue after AI mistakes Doritos bag for gun

AI 导读

四名黑人学生因Omnilert AI将零食袋误判为枪支并报警,起诉Omnilert、巴尔的摩县公立学校及警方非法拘束。 该系统曾发出90%枪支概率的误报,且警方在警报取消后仍出动武装人员,存在协议缺陷。 律师委员会要求改革学校与警方流程,确保AI警报得到核实并防止误报触发武装响应。

来源:Hacker News AI · lawyerscommittee.org