arXiv · NLP· Wenyu Du, Stephen Chung·· 5 小时前AI 评分28
CopyLoop 通过上下文复制与浅层筛选实现快速 Looped Transformer 解码
CopyLoop: Fast Looped Transformer Decoding via Context Copying and Shallow Screening
AI 导读
无训练解码算法 CopyLoop 结合低开销上下文复制提案与浅层筛选，在 Ouro、Raven 和 Huginn 家族模型上实现 2.98x–10.70x 解码加速。 该算法通过浅层递归深度早期评估多 token 后缀以过滤错误分支，支持代码生成与多步数学推理任务，仅需轻量级模型校准。
来源：arXiv · NLP · arxiv.org