跳到正文
arXiv · AI· Shrestha Datta, Hongfu Liu, Anshuman Chhabra·· 8 小时前AI 评分34

通过层梯度分析改进大语言模型知识编辑:发现黄金层

Golden Layers and Where to Find Them: Improved Knowledge Editing for Large Language Models Via Layer Gradient Analysis

AI 导读

研究发现存在固定的“黄金层”可接近最优知识编辑性能,且能通过代理数据集可靠识别并泛化至未见查询。 提出层梯度分析(LGA)方法,利用梯度归因估算黄金层,避免了多次编辑尝试,在多个基准数据集上验证了有效性。 该工作已被 NeurIPS 2026 主会议接收。

来源:arXiv · AI · arxiv.org