跳到正文
arXiv · ML· Li Lixing·· 2026-10-05AI 评分23

系统提示词锚定与交叉注意力层

System-Prompt Anchoring with Cross-Attention Layers

AI 导读

研究在系统提示词与文本间插入交叉注意力层(CAL)块以锚定系统提示词。1.5B模型扫描显示后置位置更有效且参数高效,8B缩放实验表明该法改变指令跟随与安全行为但基本保留通用任务性能。

来源:arXiv · ML · arxiv.org