Hacker News AI· psoulos·· 4 天前精选AI 评分88
Microsoft AI 发布 MAI-Base-2 基础模型及预训练技术细节
Frontier Pre-Training at Microsoft AI
AI 导读
Microsoft AI 完成 MAI-Base-2 预训练，该 MoE 模型拥有 800 亿激活参数和 2.8 万亿总参数。MAI-Base-2 在保留评估中优于 DeepSeek-V4-Pro-Base，其预训练效率比参考模型高 4-12 倍。
推荐理由
Microsoft 公布了 MAI-Base-2 预训练细节，包括 scaling 法则、MoE 优化和数据管道，展示了前沿基础模型的构建路径。
来源：Hacker News AI · microsoft.ai