跳到正文
热点事件持续更新

层级对齐:块级 LoRA-DPO 偏好调优新方法

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

2026 年 10 月 27 日,Yishen Chen 等人在 arXiv 发布论文,提出“层级对齐”方法。该方法将解码器深度划分为局部、中间和全局区域,并限制 LoRA 更新仅作用于选定的连续块。在 Qwen 和 Llama 模型的测试中,严格匹配可训练参数时,中间区域配置在 Qwen2.5-7B 和 Llama-3.1-8B 上实现了比全深度分配更低的 DPO 留出损失,同时峰值内存占用更低、训练步长更短。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月27日
  1. arXiv · NLP
    层级对齐:面向大语言模型偏好调优的块级 LoRA-DPO

    该研究提出层级对齐方法,将解码器深度划分为局部、中间和全局区域,并限制 LoRA 更新仅作用于选定连续块。 在 Qwen 和 Llama 模型测试中,严格匹配可训练参数时,中间区域(Middle)配置在 Qwen2.5-7B 和 Llama-3.1-8B 上实现了比全深度分配更低的 DPO 留出损失,且峰值内存占用更低、训练步长更短。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。