跳到正文
arXiv · AI· Pujun Zheng, Wanying Ren, Guoxiu He·· 3 天前AI 评分35

Program Distillation:将 LLM 能力从 System 2 转移到 System 0

Program Distillation: Transferring LLM Capability from System 2 to System 0

AI 导读

提出 Program Distillation (PD) 框架,将 LLM 从 System 2 到 System 0 的能力转移形式化,通过生成可执行程序在部署阶段降低推理时间。

来源:arXiv · AI · arxiv.org