商汤科技SenseTime· 商汤君·· 1 天前精选AI 评分70
商汤开源 SenseNova Loop-9B-Preview:探索以计算深度释放模型潜力
AI 导读
商汤开源日日新 SenseNova Loop-9B-Preview 模型,采用 Looped Transformer 架构引入循环计算,通过参数共享模块扩展有效计算深度,在 9B 参数规模下性能媲美 27B 级模型。
推荐理由
商汤开源了基于 Looped Transformer 架构的 9B 模型,通过循环计算扩展有效深度,为社区提供了替代单纯扩大参数规模的模型架构实践参考。
来源:商汤科技SenseTime · mp.weixin.qq.com