机器之心·· 14 天前AI 评分49
Northwestern、CMU等团队 WOVEN 论文提出世界建模训练配方,用2k样本跨领域提升22项基准
世界建模是跨任务可复用的独立能力吗?Northwestern、CMU等用仅2k样本跨领域提升22项基准,并给出训练配方
AI 导读
Northwestern、CMU等团队提出 WOVEN 框架,将世界建模定义为对状态转移的推断。仅用约2000条受控数据训练,即可零样本提升22项跨领域基准,最高增益27.3个点。 实验表明,决定迁移效果的是“推理操作”类型而非动作类型;该配方在7个未见基准上通过前瞻验证,证明了其泛化能力。 这为多模态模型提供了按推理操作组织训练数据的具体规则,有助于更高效地训练智能系统。
来源:机器之心 · mp.weixin.qq.com