IT之家·· 18 小时前精选AI 评分88
腾讯 Hy4 模型开源,混元 LLM 系列实现全量开放
腾讯 Hy4 正式开源,混元 LLM 系列实现全量开放
AI 导读
腾讯混元团队正式开源 Hy4 大模型,模型权重已在 GitHub 等平台上线,标志混元 LLM 系列完成全量开源。Hy4 采用 MoE 架构,总参数 770B,激活参数 49B,支持 100 万 Token 上下文窗口。同时开源的 Hy4 flash 总参数约 2200 亿,支持文本与图像输入,采用 Apache 2.0 协议。
推荐理由
原文给出了 Hy4 及 Hy4 flash 的具体参数和开源平台,读者可以据此评估其部署成本和适用场景。
来源:IT之家 · ithome.com