跳到正文
arXiv · NLP· Ruiyang Qin, Qingzhuo Wang, Dongrui Liu, Qiang Li, Zhihua Wei, Wen Shen·· 6 小时前AI 评分25

通过自蒸馏实现多语言安全对齐

Multilingual Safety Alignment via Self-Distillation

AI 导读

研究提出名为 MSD 的跨语言安全转移框架,通过自蒸馏将高资源语言(如英语)的安全能力转移至低资源语言(如爪哇语),无需目标语言响应数据。 方法包含 on-policy 和 off-policy 两种 MSD 实现策略,并引入 DPSW 散度度量以自适应调整安全关键 token 权重。

来源:arXiv · NLP · arxiv.org