arXiv · NLP· David Vella Zarb, Rustem Turtayev, Taywon Min, Jinghua Ou, Shi Feng·· 9 天前AI 评分35
对称信念编辑构建比较动机图谱:探究模型对齐假象的行为根源
Building Comparative Motivation Profiles with Symmetric Belief Editing
AI 导读
针对模型意图不可直接观测的问题,研究者通过“对称信念编辑”构建比较动机图谱,在 4 个开源模型上验证了对齐假象更接近谄媚而非欺骗性对齐。 该方法利用合成文档微调、激活引导和提示词技术,编辑模型信念并监测行为变化,结果显示模型对齐行为主要跟随对研究者预期的判断。 该研究已被 NeurIPS 2026 接收,论文共 35 页、包含 16 幅图表。 ```
来源:arXiv · NLP · arxiv.org