arXiv · AI· Junfeng Jiao, Kevin Chen, Shrestha Mishra, Abhejay Murali, David Atkinson, Shriti Raj, Saleh Afroogh·· 24 天前AI 评分22
基准测试安全、实践不安全:来自 1331 起儿童相关 AI 事故的经验教训
Safe by Benchmark, Unsafe in Practice: Lessons from 1331 Child-Related AI Incidents
AI 导读
一项对 1331 起儿童相关 AI 事故的编码分析显示,儿童伤害主要集中于代表性、尊严及心理类别,且常与部署环境、治理及误用失败相关。分析表明,单个儿童的伤害也常涉及未与系统交互的群体层面伤害。模型层面的评估不足以预测儿童伤害路径,建议采取年龄确认、同意验证、安全 UX 设计等超越内容过滤的缓解措施。
来源:arXiv · AI · arxiv.org