跳到正文
热点事件持续更新

Zhiyun Shi 提出 Legible 方法解决模型两跳推理缺陷

1 篇报道1 个报道来源16 小时前更新

先了解这件事

AI 综述

针对语言模型知识编辑中存在的“两跳诅咒”问题,Zhiyun Shi 发布论文提出 Legible(读等价写作)方法。该方法指出微调模型无法推理新事实的根源在于“写作”环节错误,而非单纯的推理能力缺陷。核心思路是让桥接短语在第二跳读取层匹配模型对新实体的自我表征,同时保持同一关系的其他主语不变。 在验证环节,研究团队在 Qwen2.5、Llama-3 和 Qwen3 模型上测试了该方法的有效性。结果显示,Legible 的桥接准确率达到 CaKE 方法的 1.8 至 2.6 倍。此外,该方法具有显著的效率优势,无需使用多跳训练数据,仅通过模型自身的短语和目标即可进行优化,为提升模型知识编辑的推理连贯性提供了新路径。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月3日
  1. arXiv · ML
    Legible:通过读等价写作解决模型微调中的“两跳诅咒”

    Legible 方法指出微调模型无法推理新事实的根源在于“写作”错误而非推理缺陷,通过让桥接短语匹配模型对新实体的自我表征来解决该问题。 该方法在 Qwen2.5、Llama-3 和 Qwen3 上验证有效,Legible 的桥接准确率是 CaKE 的 1.8-2.6 倍,且无需使用多跳训练数据,仅使用模型自身的短语和目标进行优化。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。