跳到正文
arXiv · NLP· Muhammad Rafiullah Memon, Viet Vo, Wanlun Ma, Yang Xiang·· 2026-10-07AI 评分25

Not What a Child Expressed:审计面向儿童 AI 中的手语到文本安全接口

Not What a Child Expressed: Auditing the Sign-to-Text Safety Interface in Child-Facing AI

AI 导读

研究发现主要部署的手语翻译模型未在 18 岁以下用户上训练或评估,且手语翻译与安全过滤工具缺乏联合评估。 翻译错误若改变否定、紧急或求助语义,可能在保持流畅度下改变安全决策。 论文提出由聋人社区主导的部署前审计框架,包含失败分类法与 4 种对比条件,并计划以 Auslan 作为首个案例。

来源:arXiv · NLP · arxiv.org