arXiv · NLP· Israel Abebe Azime, Jesujoba O. Alabi, Iffat Maab, Alexander D. Cai, Tadesse Destaw Belay, Atnafu Lambebo Tonja, Jonas Kgomo, Folasade Alabi, Salomey Osei, Saminu Muhammad Aliyu, Nkechinyere Faith Aguobi, Bontu Fufa Balcha, Blessing Sibanda, Davis David, Mouhamadane Mboup, Daud Abolade, Neo Putini, Louis Powell, Kiant'e Brantley, Philipp Slusallek, Dietrich Klakow, Julia Kreutzer·· 6 小时前AI 评分28
AfriGuard：面向非洲语言的安全与鲁棒拒绝数据集及模型研究
AfriGuard: Safety and Robust Refusal For African Languages
AI 导读
AfriGuard 是一项包含 10 种非洲语言及英语的多语言数据集，用于研究有害意图与安全拒绝行为。研究发现护栏模型在安全意图和分类任务中表现不佳，F1 分数低于 60%，常因语言不当而非明确拒绝而未能提供协助。 基于 AfriGuard 开发的护栏模型性能可与规模大 30 倍的模型竞争，引入的拒绝检测器使平均性能提升 43.9%，且监督微调能显著改善整体安全性。
来源：arXiv · NLP · arxiv.org