NvidiaがAlファウンドリービジネスを開始：Meta Llama 3.1オープンソースモデルと手を組み、顧客のためにスーパーモデルをカスタマイズおよび展開します。

7月24日のIt Houseニュース、エヌビディア $エヌビディア (NVDA.US)$同社は昨日（7月23日）プレスリリースを発行し、公式に「NVIDIA AI Foundry」ファウンドリーサービスおよび「NVIDIA NIM」推論マイクロサービスを開始しました。

「NVIDIA AI Foundry」ファウンドリーサービス

Nvidiaは、顧客がMetaのLlama 3.1 AIモデル、およびNvidiaのソフトウェア、コンピューティング、専門知識を利用して、特定のドメイン向けに「スーパーモデル」をカスタマイズできると述べています。

これらの「スーパーモデル」は、独自のデータ、Llama 3.1 4050億の合成データ、およびNvidia Nemotron Rewardモデルを使用してトレーニングできます。

NVIDIA AI Foundryは、世界の主要なパブリッククラウドと共同設計されたNVIDIA DGX ™ Cloud AIプラットフォームで動作します。このプラットフォームは、企業に大量のコンピューティングリソースを提供し、AIニーズに合わせて簡単にスケールアップできます。

NVIDIA AI Foundryには、NVIDIAが作成したNemotronおよびEdifyのAIモデル、人気のあるオープンベースモデル、カスタムモデル用のNVIDIA NeMo ™ソフトウェア、NVIDIA DGX ™ Cloud上の専用キャパシティ（NVIDIA AIエキスパートによって構築およびパワード）が含まれています。

出力は、カスタムモデル、最適化エンジン、および標準APIを含む推論マイクロサービスであるNVIDIA NImが処理します。これらはどこにでも展開できます。

NVIDIA NIm推論マイクロサービス

It House注：NVIDIA NImは、クラウドコンピューティング、データセンター、ワークステーション、およびPCを含む任意の場所でAIモデルをNVIDIA GPU上で実行できるようにする一連の加速推論マイクロサービスです。

産業標準のAPIを使用することで、開発者はNImを使用してAIモデルを数行のコードで展開できます。 NImコンテナは、Kubernetes（K8s）エコシステムとシームレスに統合され、コンテナ化されたAIアプリケーションを効率的に調整および管理できます。