跳到正文
热点事件持续更新

arXiv发布最强开源循环Transformer Loopie系列

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

arXiv于2026年10月27日发布Loopie论文,介绍其为首个强大开源循环Transformer系列。 该系列含两个混合专家(MoE)模型:20B参数(活跃2B)与6B参数(活跃0.6B),均基于循环架构设计。 消融研究表明,同等计算量下Loopie显著优于30B-A3B普通模型,后训练方法还赋予其强推理能力。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月27日
  1. arXiv · NLP
    Loopie:最强开源循环 Transformer 系列,含 20B MoE 模型

    Loopie 是迄今最强大的开源循环 Transformer 系列,包含一个 20B 参数(2B 活跃)和一个 6B 参数(0.6B 活跃)的 MoE 模型。 与同等计算量的普通 30B-A3B 模型相比,Loopie 在消融研究中表现显著更优;通过新的后训练方法,该模型展现出强大的推理能力。 作为开源模型,Loopie 为在有限计算预算下实现前沿级推理性能提供了新的技术路径。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。