arXiv · AI· HongJin Song, Weiqiao Shan, Runwu Shi, Yifei Wu, Yujin Wang, Jiale Luo, Jiasheng Kuang, Xinyu Yang, Zhaoqi Cui, Chuizheng Kong, Ziyu Wu, Guowu Tan, Qiuyu Fang, Chunxiang Jin·· 8 小时前AI 评分27
语音LLM记忆中的历史干扰：仅找到正确来源不足以保证答案准确
The Right Source Is Not Enough: Understanding History Interference in Speech-LLM Memory
AI 导读
研究揭示了语音LLM在获取正确历史音频后仍因干扰出错的机制，在MOSS-Audio和MiMo-Audio模型上验证了错误被导向特定竞争答案。 因果干预实验发现，干扰通过早期状态和源角色/答案值信息的低维路径影响生成，单纯切断直接访问无法消除多轮对话中的错误。 这表明可靠的对话记忆需控制保留信息如何进入答案计算过程，而非仅依靠检索。
来源：arXiv · AI · arxiv.org