The Decoder· Matthias Bastian·· 4 小时前同新闻AI 评分76
百度发布 ERNIE 5.5 Flash Base 开源模型,280B 参数
Baidu releases ERNIE 5.5 Flash Base with 280 billion parameters as an open-source foundation model
AI 导读
百度发布开源基座模型 ERNIE-5.5-Flash-Base,该模型采用 280B 参数的 MoE 架构,单次输入激活 14B 参数,预训练数据为 33.5T token,支持 128k 训练上下文。官方表示将推出经过后训练的增强版本,当前模型权重以 FP8 和 BF16 格式发布于 Hugging Face。
同一新闻,精选展示《百度开源文心 5.5 Flash Base 基模,主打效率与创新架构》
来源:The Decoder · the-decoder.com