arXiv · NLP· Jingcheng Niu, Xingdi Yuan, Tong Wang, Hamidreza Saghir, Amir H. Abdi·2026-11-05 13:00· 8 小时前AI 评分36

Llama See, Llama Do: 大语言模型中上下文牵引与分心机制研究

Llama See, Llama Do: A Mechanistic Perspective on Contextual Entrainment and Distraction in LLMs

AI 导读

研究发现大语言模型普遍存在“上下文牵引”现象，模型会对输入提示词中曾出现过的任意 Token 赋予显著更高的 logit 概率，即使这些 Token 是随机的且与问题无关。

来源：arXiv · NLP · arxiv.org