跳到正文
arXiv · AI· Aniruddha Roy, Jyoti Patel, Aman Chadha, Vinija Jain, Amitava Das·· 2026-10-14AI 评分24

AlignMerge:一种基于 Fisher 引导几何约束的对齐保持型大语言模型合并框架

AlignMerge - Alignment-Preserving Large Language Model Merging via Fisher-Guided Geometric Constraints

AI 导读

研究提出 AlignMerge 框架,在 LLaMA-3 8B、Mistral 7B 等五个模型族上,通过几何约束优化使模型合并在提升对齐指标的同时保持或超越最佳专家模型的表现。

来源:arXiv · AI · arxiv.org