arXiv · NLP· Austin C. Kozlowski, Avital Mintz, Madison Lee·· 8 小时前AI 评分37
LLMs 采用不同政治观点时内部表征几何结构的重组织
Persona Perspectives: Adopting Viewpoints Reorganizes Representations in LLMs
AI 导读
研究发现，让 LLMs 采用自由派或保守派政治观点会系统性改变其内部语义轴对齐与单词投影，导致 9,000 多个词的特征表征发生偏移。 在两种观点下训练的 linear probes 和 SAE-based classifiers，在应用于不同观点模型时会产生分歧，并在争议性陈述上输出带有政治偏见的真实性与道德性评级。
来源：arXiv · NLP · arxiv.org