跳到正文
arXiv · NLP· Michael A. Lepori, Kendrick Kay, Greta Tuckute·· 7 天前AI 评分26

用语言模型的稀疏特征解释大脑对语言的反应

Interpreting Brain Responses to Language with Sparse Features from Language Models

AI 导读

该研究引入增强稀疏编码模型,利用层级化稀疏自编码器特征取代密集隐藏状态,并显式包含惊异度作为预测变量。 基于8名参与者聆听200个多样化句子的7T fMRI数据,模型成功恢复了针对处理难度和意义抽象性的既往解读,并发现前额叶区域可仅由惊异度良好解释。 结果显示,大脑对语言的反应与语言模型中表示最普遍信息的特征之间存在非平凡对应关系。

来源:arXiv · NLP · arxiv.org