跳到正文
arXiv · NLP· Mustafa Safa Ozdayi, Somin Wadhwa·· 5 小时前AI 评分39

Artifact Distillation: 无训练转移前沿至小型语言模型

Artifact Distillation: Training-Free Transfer from Frontier to Small Language Models

AI 导读

提出 Artifact Distillation 方法,教师模型将解题过程外化为工件库供学生模型推理时查询,全程无需梯度更新。 在四个 LiveBench 任务中,Claude Opus 4.5 生成的工件库使 Claude Haiku 4.5 在空间推理上得分 0.707 超过 Claude Sonnet 4.5 的 0.647,且成本仅为后者的 60%。

来源:arXiv · NLP · arxiv.org