跳到正文
arXiv · NLP· Daniil Gurgurov, Akansh Maurya, Josef van Genabith, Simon Ostermann, Hitomi Yanaka·· 4 小时前AI 评分21

上下文门控如何实现语言模型跨语言与多行为组合激活引导

Compositional Activation Steering Across Languages and Behaviors with Contextual Gates

AI 导读

上下文引导方法通过联合训练门控机制,自适应调节固定引导向量的强度以控制多行为。 该方法在多种语言和行为属性上优于恒定强度引导及提示等四种基线,更好地保留通识知识。

来源:arXiv · NLP · arxiv.org