arXiv · NLP· Reya Dawlah, Elizabeth McMillin, Michael Shihong Zhang, Badrish Ananth, Rishi Adi Ruia, Ane Zu\~niga, Thomas Jiralerspong·· 3 天前AI 评分26
可言语化工作区中角色-填充绑定测试:前沿语言模型缺乏绑定结构
A Bag of Concepts? Testing Role-Filler Binding in the Verbalizable Workspace
AI 导读
基于可言语化工作区的运行时对齐监视器无法捕获模型的角色-填充绑定结构。实验在 Qwen3.6-27B 和 Gemma-3 系列模型上验证,线性探针在工作区读取角色时表现低于随机对照组。 这意味着该监视器会遗漏模型自身所表征的角色分配,且消融实验仅在 Gemma-3-27B-IT 上显示出绑定损伤。
来源:arXiv · NLP · arxiv.org