arXiv · NLP· Gabriel Lars Sabadin, Dr Nicola Harding, Sarah Kingston·· 3 小时前AI 评分45
自动安全系统偏差研究：危害判定依赖词汇导致对非标准语言群体的误报与保护缺失
Harm Is Behavioural, Moderation Is Lexical: How Language and Culture Decide Whom Automated Safety Systems Protect and Whom They Silence
AI 导读
自动安全系统基于词汇判定危害，导致非裔美国人英语误报率高出两倍以上，且安全行为在低资源语言中失效。研究归纳七种失败模式，提出评估协议，在11种语言、5个开源系统中测试。 结果显示无系统达到母语者准确性，且系统能力增强反而扩大了最佳与最差服务语言间的差距。
来源：arXiv · NLP · arxiv.org