跳到正文
arXiv · NLP· Neha Kalibhat, Zi Wang, Prasoon Bajpai, Drew Proud, Wenjun Zeng, Been Kim, Mani Malek·· 3 天前AI 评分26

基于原子概念编辑的模型行为解释与控制框架

Interpreting and Controlling Model Behavior via Constitutions for Atomic Concept Edits

AI 导读

该研究提出一种黑盒可解释性框架,通过原子概念编辑学习可验证宪法,从而解释和控制模型行为。在数学推理任务中,干扰变量使 GPT-5 易混淆,但对 Gemini 2.5 和 o4-mini 影响有限;在文生图任务中,GPT-Image 侧重语法合规,Imagen 4 则优先氛围一致性。使用学习得到的宪法控制模型行为,成功率平均提升 1.86 倍。代码已开源。

来源:arXiv · NLP · arxiv.org