arXiv · AI· Shilong Zhao (Independent Researcher)·· 2 天前AI 评分25
基于注意力残差的深度感知激活引导方法研究
Depth-Aware Activation Steering via Attention Residuals
AI 导读
提出结合 Attention Residuals 和 Jacobian-lens 的深度感知 LLM 激活引导方法,在 Qwen3-0.6B 和 Qwen3.5-0.8B 模型上验证其显著优于单层注入,内部对齐度在更深层概念余弦和排名指标上提升显著(p<0.0001)。
来源:arXiv · AI · arxiv.org