大模型如何掌握不可能语言：规模决定学习焦点转变

在不可能语言样本上微调十亿参数大模型显示，更大模型在不可能与可能语言上表现相似。 百万参数模型在不可能语言上性能显著下降，且语义复杂度越高差距越大。 规模扩大使学习焦点从语法规则转向语义理解，十亿级模型对低层语言扰动的敏感度降低至三倍。