arXiv · ML· Yubing Wu, Wei Chen, Junmei Yang, Delu Zeng, Tiewen Pan·· 29 天前AI 评分28
DPO 计算图的随机剪枝:1.4 倍训练加速与峰值内存降低
Stochastic Pruning of the DPO Computation Graph: 1.4x Faster Training and Lower Peak Memory
AI 导读
提出 DPO 计算图随机剪枝框架,通过独立采样响应位置、前缀及偏好分支来省略训练步骤中的计算。 该框架在两个模型家族上实现了相对于标准 DPO 约 30% 的训练时间缩短,并带来 1.426 倍的步骤时间加速,主要降低了峰值内存占用。 尽管平均准确率略有下降,但研究证实了随机图剪枝在资源效益与计算省略之间的直接关系。
来源:arXiv · ML · arxiv.org