跳到正文
arXiv · NLP· Zach Paris, Emily Finn·· 21 天前AI 评分23

低秩空间揭示LLM与人类神经活动在对自然语言聆听中的线性对齐

A Low-Rank Space Captures Linear Alignment Between LLM and Human Neural Activity During Naturalistic Language Listening

AI 导读

研究发现,仅使用LLM嵌入维度1-3%的低秩子空间即可恢复完整的线性编码性能,实现对神经反应的有效预测。 该低维子空间能跨不同参与者及数据集泛化,且与主成分分析捕捉最大方差的维度显著不同,证实了用于预测神经活动的特征方向具有特异性。 结果展示了结构化的小部分模型表征支撑了LLM与脑的对齐,为理解表征对齐机制提供了框架。

来源:arXiv · NLP · arxiv.org