英伟达开源最强通用模型Nemotron-4 340B

AIGC动态欢迎阅读

原标题：英伟达开源最强通用模型Nemotron-4 340B
关键字：模型,数据,参数,高效,基础
文章来源：机器之心
内容字数：0字

内容摘要：

机器之心报道
机器之心编辑部性能超越 Llama-3，主要用于合成数据。英伟达的通用大模型 Nemotron，开源了最新的 3400 亿参数版本。
本周五，英伟达宣布推出 Nemotron-4 340B。它包含一系列开放模型，开发人员可以使用这些模型生成合成数据，用于训练大语言模型（LLM），可用于医疗健康、金融、制造、零售等所有行业的商业应用。
高质量的训练数据在自定义 LLM 的响应性能、准确性和质量中起着至关重要的作用 —— 但强大的数据集经常是昂贵且难以访问的。通过独特的开放模型许可，Nemotron-4 340B 为开发人员提供了一种免费、可扩展的方式来生成合成数据，从而帮助人们构建强大的 LLM。
Nemotron-4 340B 系列包括基础、Instruct 和 Reward 模型，它们形成了一个 pipeline，用于生成训练和改进 LLM 的合成数据。这些模型经过优化，可与 NVIDIA NeMo 配合使用，后者是一个用于端到端模型训练的开源框架，包括数据管理、定制和评估。它们还针对开源 NVIDIA TensorRT-LLM 库的推理进行了优化。
英伟达表示，Nem

原文链接：英伟达开源最强通用模型Nemotron-4 340B