arXiv · AI· Xin-Rui Ma, Shi-Zhi Chen, Hai-Yan Jiang, De-Cheng Feng, Michael Beer·· 7 小时前AI 评分33
变量名提供先验:语义锚定使大型语言模型在数据稀缺时实现高效数值预测
Variable names provide priors: semantic grounding enables data-efficient numerical prediction by large language models
AI 导读
研究发现变量名与描述值匹配构成的语义锚定,使五个 LLM 在缺乏任务特定训练下,于九个科学领域的 20 个数据集上媲美或超越七个监督 ML 模型。 推理轨迹表明 LLM 利用预训练获取的领域知识作为先验;当示例矛盾累积时,预测向作为似然的示例转变,符合贝叶斯更新机制。 该研究揭示了 LLM 使用领域知识的机制,将其定位为数据稀缺科学领域的高效预测器。
来源:arXiv · AI · arxiv.org