英伟达:微调后的 Nemotron 3 在 IMO 2026 和 IOI 2026 达到金牌水平,检查点与训练数据开放
英伟达在 Hugging Face 博客称,基于 Nemotron 3 微调的专用模型在 2026 年国际数学奥林匹克(IMO)和国际信息学奥林匹克(IOI)都达到金牌水平:IMO 系统得 30/42 分,提交的证明由 IMO 官方阅卷人评分;IOI 系统得 535.4/600 分,这是按人类选手同等时限、联网和提交限制实时进行的非官方、无监督测试,不计入官方排名。相关检查点、训练数据和推理流程已公开。

编程竞赛方面,英伟达整理了 22,000 道题并生成合成推理轨迹,训练了两个专用模型:Nemotron-3-Nano-CC(总参数 300 亿、激活参数 30 亿)做了监督微调(SFT)和强化学习(RL),Nemotron-3-Ultra-CC(总参数 5500 亿、激活参数 550 亿)只做了 SFT。公司称,在 IOI 2025 题目上,Nano 从后训练前的 130 分提高到 SFT 后 280 分、RL 后 291 分,再配合其“生成—评估—修正”迭代策略 GenCorrect 达到 468 分,超过当年 438.3 分的金牌线;Ultra-CC 用同一策略得 502 分。参加 IOI 2026 的是在此基础上针对比赛调整的 Ultra-CC 系统。
数学方面,团队从 Nemotron 3 Ultra 出发,分别用 SFT 和 RL 训练了两个专用模型。SFT 语料含 15,818 道证明题的 414,890 条经质量筛选的样本,覆盖证明生成、修改、验证和对验证的再评估;RL 模型用 9,597 道接近模型能力边界的证明题训练。最终系统把这两个专用模型和通用模型组合使用:对每道题生成候选证明、打分、给出批评并修改,再由单独的高算力阶段选出提交答案。整个系统只用自然语言,没有使用形式化证明器、外部工具或联网,得 30/42 分,其中 6 题中 4 题拿满分,超过官方金牌线。
英伟达称,金牌并非只靠微调或只靠大量采样,而是模型、数据和推理流程共同设计的结果;训练和推理投入“相当可观”,博客未公布具体算力。公司已在 Hugging Face 发布 Nemotron Labs IMO 2026 合集,包含 SFT 与 RL 检查点、两份训练数据集和含 200 道奥赛级题目的新基准 Nemotron-IMO-Bench;Nemotron-3-Ultra-CC 模型也已上架 Hugging Face,IMO 推理流程、提示词、提交的证明以及 IOI 评测与推理流程放在 NeMo-Skills 代码库。IMO 和 IOI 的训练方法另见两篇 arXiv 论文。
来源
- One Model Family, Two Gold-Level Results: Fine-Tuning Nemotron for IOI and IMO — Hugging Face:Blog(RSS)
- An Open Recipe for IMO Gold: Training Nemotron for Olympiad Mathematics — arxiv.org
- Post-Training Language Models for Gold-Medal Performance in Coding Competitions — arxiv.org