arXiv · AI· Jisheng Dang, Yushuo Zhao, Dewei Liu, Junfeng Fang, Bimei Wang, Tiantian Rao, Hong Peng, Bin Hu, Tat-Seng Chua·· 2026-10-05AI 评分38
DNAlign: 面向大语言模型的动态零空间安全对齐框架
DNAlign: Dynamic Null-Space Safe Alignment for LLMs
AI 导读
DNAlign 提出了一种轻量级对齐框架,将控制论优化与零空间投影相结合,以解决大语言模型安全对齐中计算成本高且破坏核心知识的问题。该框架将 LLM 视为动态系统,通过将扰动限制在有害相关子空间内,并利用基于人类偏好数据训练的奖励函数自适应优化控制信号,从而引导生成走向安全行为。
来源:arXiv · AI · arxiv.org