arXiv · AI· Channe Chwa, Xinle Wu, Yao Lu·· 24 天前AI 评分33
AutoPipe:LLM 后训练流水线的自动配置框架
Automatic Configuration of LLM Post-Training Pipelines
AI 导读
AutoPipe 提出了一种预算感知的两阶段 LLM 后训练配置框架,通过离线排序代理和在线贝叶斯优化实现高效配置选择。 该框架结合高斯过程残差代理与早停预测器,在生物医学推理任务中,以远低于全保真 HPO 基线的在线成本实现了可比性能。
来源:arXiv · AI · arxiv.org