发布日期

Microsoft AI 完成 MAI-Base-2 预训练：2.8T MoE，称较 DeepSeek 基座最高约 12 倍训练效率

Microsoft AI 于2026年10月15日称已完成 MAI-Base-2 预训练：800亿活跃、2.8万亿总参数的 MoE 基座，正进行后训练；并称相对 DeepSeek-V4-Pro-Base 约有 4–12 倍预训练 FLOPs 效率，未来可通过 Foundry 向可信伙伴许可权重。

白色标题 Frontier Pre-training at Microsoft AI 叠在蓝橙云层纹理背景上
Microsoft AI《Frontier Pre-training》博文头图，标题叠在云层纹理背景上。图源：Microsoft AI

Microsoft AI 于2026年10月15日发布 Lab Notes《Frontier Pre-training at Microsoft AI》，称已完成新一代基座模型 MAI-Base-2 的预训练。公司描述其为 MoE（混合专家）模型，活跃参数 800 亿、总参数 2.8 万亿；此前 6 月曾基于 MAI-Base-1 推出后训练模型 MAI-Thinking-1。

据其 PDF 技术说明，MAI-Base-2 在 2026 年 8–9 月用约 1.6 万张 GB200 GPU 训练 38 天；训练混合约 50T token，知识截止约为 2026 年 3 月。相对 MAI-Base-1（约 350 亿活跃 / 1T 总参数、交替稠密与 MoE 层），MAI-Base-2 改为每层 MoE，并原生以无编码器 VLM 方式加入视觉，视觉语料约 4.5T 独特 token、经重复后约占混合的 18%。

Microsoft AI 称在内部留出评测上，MAI-Base-2 优于其测试过的所有开源权重模型；并以 DeepSeek-V4-Pro-Base 为参照，估计其预训练 FLOPs 效率约为该开源基座的 4–12 倍（文中亦给出约 4.2–12.3× 的区间表述）。这些数字来自公司自身评测与缩放律外推，尚未见独立复现。

公司强调预训练基于“有机数据”、不涉及从其他模型蒸馏，并称这将便于通过 Foundry 向可信伙伴许可模型权重。MAI-Base-2 目前处于后训练阶段，无公开权重、API 或定价；文中称 MAI-Base-3 筹备已开始。

来源

  1. Frontier Pre-training at Microsoft AI — Microsoft AI
  2. Frontier Pre-training at Microsoft AI (PDF) — Microsoft AI

专题：模型 · Microsoft

相关报道

在 ？ 中打开这篇 →