跳到正文
机器之心· 机器之心·· 4 小时前精选AI 评分80

DiffuSpace开源Clover 35B扩散语言模型,性能媲美自回归模型

大模型一定要一个字一个字往外蹦吗?他们押注四年,给出了另一种答案

AI 导读

DiffuSpace 发布开源扩散语言模型 Clover-35B-A3B-Preview,在 SWE-bench Verified 等智能体编程评测中达到或超过同规模自回归模型,同时实现 680 tokens/s 的更快生成速度。模型通过引入块扩散与双向 GDN 架构解决历史记忆复用问题,并已在 16GB 显存设备上实现 INT4 量化部署。

推荐理由

作为首个在Agent任务上超过同规模自回归模型的开源扩散语言模型,Clover 35B证明了并行生成速度与高性能可以共存。

来源:机器之心 · mp.weixin.qq.com