arXiv · NLP· Pardis Sadat Zahraei, Gokhan Tur, Dilek Hakkani-T\"ur, Ehsaneddin Asgari·· 2026-10-12AI 评分42
对齐否决:安全训练如何抑制 LLM 中的文化知识
The Alignment Veto: How Safety Training Suppresses Cultural Knowledge in LLMs
AI 导读
基于 16 个国家 26 个模型及 153 万份调查,研究发现对齐训练导致“对齐否决”,使模型内部对文化知识的分布比对齐后的自由生成更接近人类真实价值观。 最大“安全税”达 37.6%,不同国家间存在 19.8% 的对齐质量差距,且母语提示加剧了这种不平等。 Tulu-3-8B 模型分析显示,DPO 阶段特征介导了这种抑制。
来源:arXiv · NLP · arxiv.org