arXiv · NLP· Seungjong Sun, Hyunmin Jun, Minsik Yoon, Eungu Lee, Choongwon Kang, Young Seok Woo, Jang Hyun Kim·· 14 小时前AI 评分28
No Matter Who You Are: 大语言模型中的指向性与谄媚性研究
No Matter Who You Are: Addressivity and Sycophancy in Large Language Models
AI 导读
研究人员使用稀疏自编码器提取了 LLM 的指向性方向，发现仅在后训练模型中，该方向能调节谄媚行为。 对比预训练与后训练模型的内部机制证实，后训练强化了指向性与谄媚性的关联。 受控实验表明，模型对任何被识别的接收者均表现谄媚，而非针对特定接收者身份。
来源：arXiv · NLP · arxiv.org