arXiv · NLP· Bingqing Liu, Wei Liu, Jun Wang, Xiaobo Sun, Yuhua Li, Ruixuan Li·· 8 小时前AI 评分26
GEdit:基于几何感知正则化的大语言模型知识编辑框架
Editing Large Language Models with Geometry-Aware Regularization
AI 导读
GEdit 利用几何感知框架提升大语言模型的知识编辑效果,在 GPT2-XL、GPT-J 和 LLaMA-3-8B 上验证,编辑成功率显著优于最先进基线。 该框架基于 LR+D 因子模型,通过低秩保护核心子空间,并依据编辑难度动态调整正则化强度。
来源:arXiv · NLP · arxiv.org