跳到正文
arXiv · NLP· Chonghan Qin, Xiachong Feng, Ziyun Song, Xiaocheng Feng, Jing Xiong, Lingpeng Kong·· 3 天前AI 评分29

研究发现语言模型中存在编码社会角色颗粒度的潜在方向

The Granularity Axis: A Micro-to-Macro Latent Direction for Social Roles in Language Models

AI 导读

研究发现大语言模型中存在基于对比的“颗粒度轴”,该轴在角色空间的主导几何中保持稳定。在Qwen3-8B模型中,该轴与第一主成分(PC1)的余弦相似值为0.972,解释了52.6%的方差。

来源:arXiv · NLP · arxiv.org