arXiv · ML· Anastasiia Ivanova·· 16 小时前AI 评分25
低资源语言中拒绝方向的普适性研究
Is Refusal Direction Universal across Low-Resourced Languages?
AI 导读
研究在 Qwen2.5-14B-Instruct 上测试了白俄罗斯语等三种低资源语言,发现拒绝方向转移具有分级效应。 安全对齐语言的方向可广泛转移,而强不对齐语言的方向则失效。 低资源且强不对齐语言用户可能面临较弱的模型安全保证。
来源:arXiv · ML · arxiv.org