arXiv · AI· Yuchen Guo, Zhuoyuan Mao, Yiwen Guo·· 4 小时前AI 评分26
扩散语言模型中的事实访问状态：从机制到知识编辑与检索
Factual Access States in Diffusion Language Models: From Mechanism to Knowledge Editing and Retrieval
AI 导读
在扩散语言模型（DLMs）中，事实访问状态在早期注意力层和前馈层完成组装，使关于同一事实的查询占据状态空间区域而非单点。 写入该状态形成知识编辑器 Multi-View Edit，从单条陈述中为每个方向安装共享值，显著提升了改写与反向问答效果，而自回归编辑器在这些任务中收益接近零。
来源：arXiv · AI · arxiv.org