Nvidia 推出 Al 鑄造業務：與 Meta Llama 3.1 開源模型攜手，為客戶定制和部署超級模型。

英維達 7 月 24 日的 IT 屋新聞 $英偉達 (NVDA.US)$ 該公司昨日（7 月 23 日）發布新聞稿，正式推出「NVIDIA AI 鑄造廠」代工服務和「NVIDIA NIM」推論微服務。

「NVIDIA 人工智能鑄造廠」代工服務

Nvidia 表示，客戶可以使用 Meta 的 Llama 3.1 AI 模型以及 Nvidia 的軟件，計算和專業知識，為特定域定制「超級模型」。

客戶可以通過專有數據，由 Llama 3.1 4050 億生成的合成數據和 Nvidia Nemotron 獎勵模型來訓練這些「超級模特」。

NVIDIA AI Foundry 採用 NVIDIA DGX™ 雲端 AI 平台的支援，該平台與全球領先的公有雲共同設計，為企業提供龐大的計算資源，可以隨著人工智慧需求的變化輕鬆擴展。

NVIDIA 人工智能鑄造廠包括由 NVIDIA 創建的人工智慧型號，例如 Nemotron 和 Edify、流行的開放基礎型號、適用於自訂型號的 NVIDIA NeMo™ 軟體，以及 NVIDIA DGX™ 雲端的專用容量（由 NVIDIA 人工智慧專家構建和支援）。

輸出由 NVIDIA NiM 處理，這是一項推論微服務，其中包括自訂模型、最佳化引擎和標準 API，並且可以在任何地方部署。

NVIDIA NiM 推論微服務

IT House 備註：NVIDIA NiM 是一套加速推論微服務，允許企業在任何地方在 NVIDIA GPU 上運行 AI 模型，包括雲計算、數據中心、工作站和 PC。

透過使用業界標準的 API，開發人員只需幾行程式碼即可使用 NiM 部署 AI 模型。NiM 容器與 Kubernetes (K8s) 生態系統無縫整合，並可有效地協調和管理容器化 AI 應用程序。