跳到正文
arXiv · AI· Ding Zhu, Mohammad Mahdi Khalili·· 10 小时前AI 评分26

WAQS:通过权重吸收实现二次探测与仿射转向的大语言模型激活控制框架

WAQS: Weight Absorption for Quadratic Probing and Affine Steering

AI 导读

WAQS 框架利用二次探测生成仿射转向方向,并通过离线权重更新将其精确吸收进相邻线性层,实现状态依赖的激活转向且无额外推理开销。 该方法证明二次函数是最大平滑概念评分类,其梯度干预为仿射且可精确吸收;在高维表示下引入低秩参数化以扩展至大规模场景。 在真实性、拒绝和谄媚转向任务中,二次转向匹配或优于常数线性转向,同时保持模型效用,且吸收式实现不增加推理操作。

来源:arXiv · AI · arxiv.org