跳到正文
arXiv · NLP· Junwei Ma, Arun Kumar Chithanar, Palash Goyal, Chul Lee·· 4 小时前AI 评分41

表格序列化决定大语言模型保留哪些关系

Table Serialization Determines Which Relations Language Models Preserve

AI 导读

研究发现指令微调大语言模型中,表格行优先与列优先序列化显著影响查找性能。 256单元格合成表中,行优先在64x4窄表领先42.3-54.0个百分点,列优先在4x64宽表领先35.0-59.0个百分点。 揭示关系局部性效应:序列化保留一维关系而依赖另一维位置对齐。

来源:arXiv · NLP · arxiv.org