NVIDIA Nemotron-4 340B 开源技术报告（三） | 你想要的都在这里

文章预览

 SmartFlowAI 点击上方 蓝字 关注我们 本文翻译自英伟达发布的论文《Nemotron-4 340B Technical Report》，由机智流社区成员「北辰」翻译，整篇技术报告将分三期发布，本期为第三期 全文约 4000 字，预计阅读时间 10 分钟 上周，NVIDIA 更新了其最新的开源超大模型  Nemotron-4 340B ，这次不仅放出了大模型的参数，也放出了全套预训练、对齐和奖励模型的训练代码，同时还有一份详细的技术报告！在 OpenAI 正在内部讨论要不要“CloseAI”的当下万分难得。现在，就跟着机智流一起来看下这篇诚意满满的技术报告吧。 关注机智流，并在后台回复  "340B"  ，即可获取论文、模型和代码地址! 3 对齐 3.3 对齐算法 我们采用了模型对齐的标准协议，包括两个阶段：监督微调和偏好微调。在本节中，我们将详细说明底层算法，并介绍我们的创新训练策略。 （一）3.3.1 分段监 ………………………………