NVIDIA Nemotron-4 340B 开源技术报告（三） | 你想要的都在这里

 SmartFlowAI点击上方蓝字关注我们本文翻译自英伟达发布的论文《Nemotron-4 340B Technical Report》，由机智流社区成员「北辰」翻译，整篇技术报告将分三期发布，本期为第三期全文约 4000 字，预计阅读时间 10 分钟上周，NVIDIA 更新了其最新的开源超大模型 Nemotron-4 340B，这次不仅放出了大模型的参数，也放出了全套预训练、对齐和奖励模型的训练代码，同时还有一份详细的技术报告！在 OpenAI 正在内部讨论要不要“CloseAI”的当下万分难得。现在，就跟着机智流一起来看下这篇诚意满满的技术报告吧。关注机智流，并在后台回复 "340B" ，即可获取论文、模型和代码地址!3 对齐3.3 对齐算法我们采用了模型对齐的标准协议，包括两个阶段：监督微调和偏好微调。在本节中，我们将详细说明底层算法，并介绍我们的创新训练策略。（一）3.3.1 分段监督微调监督 ………………………………