arXiv · ML· Peihang Li, Ziming Liu·· 5 小时前AI 评分28
Meta 模型研究:模型如何对学习建模
Meta Models: Models that Model Learning
AI 导读
研究提出使用现成的表格数据模型 TabPFN 来预测其他模型的学习行为,在多个评估设置中,其表现可匹敌或超过经过微调的大语言模型(LLM)。 TabPFN 的拟合和预测时间仅需数秒,无需任务特定的权重更新;而近期基于 LLM 的微调方法在成本上需要数十至上百 GPU 小时。将 TabPFN 与 Kolmogorov-Arnold 网络(KANs)结合,还能进一步提升在特定预测任务上的准确率。
来源:arXiv · ML · arxiv.org