arXiv · NLP· Muhammad Rafiullah Memon, Viet Vo, Wanlun Ma, Yang Xiang·· 2026-10-07AI 评分25
Not What a Child Expressed:审计面向儿童 AI 中的手语到文本安全接口
Not What a Child Expressed: Auditing the Sign-to-Text Safety Interface in Child-Facing AI
AI 导读
研究发现主要部署的手语翻译模型未在 18 岁以下用户上训练或评估,且手语翻译与安全过滤工具缺乏联合评估。 翻译错误若改变否定、紧急或求助语义,可能在保持流畅度下改变安全决策。 论文提出由聋人社区主导的部署前审计框架,包含失败分类法与 4 种对比条件,并计划以 Auslan 作为首个案例。
来源:arXiv · NLP · arxiv.org