英伟达推出铝铸造业务：携手Meta Llama 3.1开源模型，为客户定制和部署超级模型。

英伟达7月24日的 It House 新闻 $英伟达(NVDA.US)$ 该公司昨天（7月23日）发布了一份新闻稿，正式推出了 “NVIDIA AI Foundry” 代工服务和 “NVIDIA NIM” 推理微服务。

“NVIDIA AI 铸造厂” 代工服务

英伟达表示，客户可以使用Meta的Llama 3.1 AI模型以及Nvidia的软件、计算和专业知识为特定领域定制 “超级模型”。

客户可以使用专有数据、Llama 3.1 4050生成的合成数据和Nvidia Nemotron Reward模型来训练这些 “超模”。

NVIDIA AI Foundry 由 NVIDIA DGX™ Cloud AI 平台提供支持，该平台与全球领先的公有云共同设计，旨在为企业提供大量计算资源，这些资源可以随着人工智能需求的变化轻松扩展。

NVIDIA AI Foundry包括NVIDIA创建的人工智能模型，例如Nemotron和Edify、流行的开放基础模型、用于自定义模型的NVIDIA Nemo™ 软件以及NVIDIA DGX™ Cloud（由NVIDIA人工智能专家构建和支持）上的专用容量。

输出由 NVIDIA NiM 负责，这是一种推理微服务，包括自定义模型、优化引擎和标准 API，可以在任何地方部署。

NVIDIA NiM 推理微服务

它内部注释：NVIDIA NiM 是一套加速推理微服务，允许企业在任何地方的 NVIDIA GPU 上运行 AI 模型，包括云计算、数据中心、工作站和 PC。

通过使用行业标准 API，开发人员只需几行代码即可使用 NiM 部署 AI 模型。NiM 容器与 Kubernetes (K8s) 生态系统无缝集成，可以高效地协调和管理容器化 AI 应用程序。