研究发现AI对齐模型存在词汇表级恐惧词典

2026年11月3日，arXiv发布的NLP研究揭示了大型语言模型的对齐机制存在词元层面的线性拒绝特征。研究团队分析了8个经过安全对齐的模型，发现特定有害词仅通过单一隐藏状态方向即可改变模型的生成边界，且该方向上的投影能单调预测模型的拒绝率。 基于这一线性机制，研究者构建了全词汇表的“恐惧/勇气词典”。实验表明，向输入中插入未见过的“恐惧词”会显著提升模型的拒绝率，而将高恐惧度词汇替换为语义不变的保义同义词，则能大幅提高模型的回答率。 该发现证实了对齐模型在词元层面存在可量化的线性拒绝机制，不仅揭示了底层工作原理，更为后续的安全微调提供了精准的量化分析工具，有助于优化模型在安全与可用性之间的平衡。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。