arXiv · ML· Stephanie Buttigieg, Maeve Madigan, Parameswaran Kamalaruban, Stuart Burrell·· 2026-10-07AI 评分38
LLM 隐空间偏置方向捕捉模型置信度而非公平性
Latent space bias directions in LLMs capture confidence, not fairness
AI 导读
研究发现,大语言模型(LLM)中用于激活引导去偏的线性方向主要编码模型置信度,而非公平性。该方向指向从高频到低概率 token 的激活空间,引导干预会驱赶模型拒绝回答问答任务。 实验表明,模型置信度是隐空间中区分偏置与非偏置提示的主导因素,难以解耦线性偏置表示。
来源:arXiv · ML · arxiv.org