arXiv · NLP· I\~nigo Parra·· 11 天前AI 评分31
GPT-2-small 训练研究显示自然语言塑造脑对齐几何结构
Language, Not Code Abstraction: Natural-language Training Shapes Brain-aligned Geometry
AI 导读
基于 25 个 GPT-2-small 模型的实验表明,自然语言训练比代码训练更能塑造脑对齐几何结构。TinyStories 在 Pereira-243 上的脑分高于四个代码模型均值 0.053,Holm 校正后 p<0.001;几何分析显示其神经相似性峰值达 ρ=0.14。代码模型的对齐度停留在随机权重水平,且其优势在特定 benchmark 上消失。 ```
来源:arXiv · NLP · arxiv.org