发布日期

英伟达:微调后的 Nemotron 3 在 IMO 2026 和 IOI 2026 达到金牌水平,检查点与训练数据开放

英伟达在 Hugging Face 博客称,基于 Nemotron 3 微调的专用模型在 2026 年国际数学奥林匹克(IMO)和国际信息学奥林匹克(IOI)都达到金牌水平:IMO 系统得 30/42 分,提交的证明由 IMO 官方阅卷人评分;IOI 系统得 535.4/600 分,这是按人类选手同等时限、联网和提交限制实时进行的非官方、无监督测试,不计入官方排名。相关检查点、训练数据和推理流程已公开。

柱状对比图:Nemotron 在 IMO 2026 与 IOI 2026 的得分、金牌线和人类最高分
英伟达博客配图:Nemotron 在 IMO 2026 得 30/42 分、在 IOI 2026 得 535.4/600 分;图中虚线为金牌线(29 分、361.12 分),实线为人类选手最高分(42 分、498.27 分)。IOI 成绩为非官方、无监督测试,未计入官方排名。图片来源:NVIDIA / Hugging Face 博客。

编程竞赛方面,英伟达整理了 22,000 道题并生成合成推理轨迹,训练了两个专用模型:Nemotron-3-Nano-CC(总参数 300 亿、激活参数 30 亿)做了监督微调(SFT)和强化学习(RL),Nemotron-3-Ultra-CC(总参数 5500 亿、激活参数 550 亿)只做了 SFT。公司称,在 IOI 2025 题目上,Nano 从后训练前的 130 分提高到 SFT 后 280 分、RL 后 291 分,再配合其“生成—评估—修正”迭代策略 GenCorrect 达到 468 分,超过当年 438.3 分的金牌线;Ultra-CC 用同一策略得 502 分。参加 IOI 2026 的是在此基础上针对比赛调整的 Ultra-CC 系统。

数学方面,团队从 Nemotron 3 Ultra 出发,分别用 SFT 和 RL 训练了两个专用模型。SFT 语料含 15,818 道证明题的 414,890 条经质量筛选的样本,覆盖证明生成、修改、验证和对验证的再评估;RL 模型用 9,597 道接近模型能力边界的证明题训练。最终系统把这两个专用模型和通用模型组合使用:对每道题生成候选证明、打分、给出批评并修改,再由单独的高算力阶段选出提交答案。整个系统只用自然语言,没有使用形式化证明器、外部工具或联网,得 30/42 分,其中 6 题中 4 题拿满分,超过官方金牌线。

英伟达称,金牌并非只靠微调或只靠大量采样,而是模型、数据和推理流程共同设计的结果;训练和推理投入“相当可观”,博客未公布具体算力。公司已在 Hugging Face 发布 Nemotron Labs IMO 2026 合集,包含 SFT 与 RL 检查点、两份训练数据集和含 200 道奥赛级题目的新基准 Nemotron-IMO-Bench;Nemotron-3-Ultra-CC 模型也已上架 Hugging Face,IMO 推理流程、提示词、提交的证明以及 IOI 评测与推理流程放在 NeMo-Skills 代码库。IMO 和 IOI 的训练方法另见两篇 arXiv 论文。

来源

  1. One Model Family, Two Gold-Level Results: Fine-Tuning Nemotron for IOI and IMO — Hugging Face:Blog(RSS)
  2. An Open Recipe for IMO Gold: Training Nemotron for Olympiad Mathematics — arxiv.org
  3. Post-Training Language Models for Gold-Medal Performance in Coding Competitions — arxiv.org

专题:Hugging Face

相关报道

在 ? 中打开这篇 →