スノーフレークの人工知能研究チームは、オープンソースコミュニティと協力して、Massive LLm Inference and Fine-Tuning System Stackを立ち上げ、Llama 3.1 405Bのような数百億パラメータモデルのオープンソース推論および微調整システムの最新のソリューションを確立しています。
本社なし/ボーズマン、モンタナ--(BUSINESS WIRE)-- 人工知能データクラウド企業のSnowflake (NYSE: SNOW) は、多言語オープンソース大規模言語モデル(LLM)コレクションであるLlama 3.1コレクションをSnowflake Cortex AIにホストし、企業がスケールの大きなAIアプリケーションを簡単に取り込み、構築できるようになりました。 この提供には、Metaの最大かつ最も強力なオープンソースLLmである、Llama 3.1 4050億が含まれており、Snowflakeは推論システムスタックの開発とオープンソース化も行っており、リアルタイムで高スループットな推論を可能にし、強力な自然言語処理および生成アプリケーションを民主化することができます。 Snowflakeの業界トップクラスの人工知能研究チームは、Llama 3.1 4050億を推論および微調整の両方に最適化し、最初の日から膨大な12.8万コンテキストウィンドウをサポートする一方、既存のオープンソースソリューションと比べてエンドツーエンドのレイテンシーを最大3倍低く、スループットを最大1.4倍高く実現するようにしました。さらに、単一のGPUノードを使用して、巨大なモデルでの微調整ができるため、開発者やユーザーの負担と複雑さを除去しました。すべてのこれらの機能はCortex AI内で提供されます。
Snowflakeは、Metaと提携して、Snowflake Cortex AIに新しいフラグシップモデルファミリーをホストおよび最適化することで、お客様に簡単で効率的で信頼できる方法を提供しています。Cortex AIに組み込まれたMetaの最新のモデル、あるいはAI21 Labs、Google、Mistral AI、Reka、そしてSnowflake自身を含む他の主要な提供者から提供されるLLMを使用して、信頼性および安全性に関する包括的なアプローチを基本レベルから構築し、メタデータにシームレスにアクセス、微調整、展開することができます。
Snowflakeは、「Snowflakeの世界クラスのAI研究チームは、企業やオープンソースコミュニティが最新のオープンモデルをどのように活用できるか、特に効率性を最大限に引き出すことができるLlama 3.1 4050億のようなものに対して、先駆的な道を拓いています。」とVivek Raghunathan、Snowflakeの人工知能エンジニアリングVPは述べています。「Snowflake Cortex AIを介して、Metaの最先端のモデルを直接顧客に提供するだけではありません。12.8万コンテキストウィンドウ、マルチノード推論、パイプライン並列性、8ビット浮動小数点量子化などをサポートする新しい研究とオープンソースコードを顧客とAIコミュニティに提供することで、AIをより広いエコシステムに向けて推進しています。」
Snowflakeの業界をリードするAI研究チームは、常にAIコミュニティに貢献し、先端のLLmテクノロジをどのように構築しているかについて透明性を保ち続けることで、オープンソースのイノベーションの壁を押し上げています。Llama 3.1 4050億のローンチと同時に、SnowflakeのAI研究チームはDeepSpeed、Hugging Face、vLLm、およびAIコミュニティ全体との協力により、Massive LLm推論および微調整システム最適化スタックをオープンソース化しています。このブレークスルーは、複数の100億パラメータモデルに対するオープンソース推論および微調整システムの最新のステート・オブ・ジ・アートを確立します。
Snowflakeの業界をリードするAI研究チームは、オープンソースの推論および微調整システムにおいて、最速かつ最もメモリ効率の高いモデルを提供できるように努力し続けています。
SnowflakeのAI研究チームは、LLmテクノロジにおける切り返しを行い続けています。Llama 3.1 4050億のローンチと同時に、SnowflakeのAI研究チームはDeepSpeed、Hugging Face、vLLm、およびAIコミュニティ全体との協力により、Massive LLm推論および微調整システム最適化スタックをオープンソース化しています。このブレークスルーは、複数の100億パラメータモデルに対するオープンソース推論および微調整システムの最新のステート・オブ・ジ・アートを確立します。
巨大なモデルスケールとメモリ要件は、リアルタイムのユースケースのための低レイテンシー推論、費用対効果の高域スループット、および各種エンタープライズグレードの生成AIユースケースの長いコンテキストサポートを実現するために重要です。モデルと活性化状態を保存するメモリ要件は、トレーニングのためにモデルステートを収めるために必要な大規模なGPUクラスタにデータサイエンティストがアクセスできないことが多く、微調整が非常に困難であるため、ユーザーにとって重要な問題となります。
Snowflakeの巨大なLLm推論および微調整システム最適化スタックは、アドバンストパラレリズム技術とメモリ最適化を使用して、複雑で高価なインフラストラクチャを必要とせず、高速かつ効率的なAI処理を実現します。Llama 3.1 4050億では、Snowflakeのシステムスタックは、単一のGPUノードでリアルタイムで高スループットのパフォーマンスを提供し、マルチノードセットアップ全体で12.8万コンテキストウィンドウをサポートします。この柔軟性は、次世代ハードウェアだけでなく、レガシーハードウェアにも適用され、より広い範囲のビジネスに利用可能になります。さらに、データサイエンティストは、大規模なGPUクラスタが必要なトレーニングのためのモデルステートを収めることなく、混合精度技術を使用してLlama 3.1 4050億を微調整することができ、開発者が負担や複雑さを排除することができます。その結果、企業は、強力なエンタープライズグレードの生成AIアプリケーションを容易に、効率的に、安全に適応・展開することができます。
SnowflakeのAI研究チームは、含制学、安全保障レール、検索増強生成(RAG)、およびシンセティックデータ生成を含む、微調整のための最適化インフラストラクチャを開発しました。これにより、Cortex AI内でこれらのユースケースを簡単に開始できます。
Snowflake Cortex AIは、信頼性の高い責任あるAIを提供することにコミットしています。そのため、SnowflakeはLLmアプリケーションまたはアセットのいずれかをCortex AIで構築する際に、有害なコンテンツに対してさらに保護するために、Snowflake Cortex Guardを一般提供しています。Cortex Guardは、MetaのLlama Guard 2を利用して、企業が使用しているモデルが安全であることを確認して、企業が信頼できるAIを実現するのに役立ちます。
約束された損害防止は、Snowflakeおよびその顧客にとって非常に重要です。そのため、Snowflakeは、Snowflake Cortex Guardを提供し、Cortex AIで構築されたすべてのLLmアプリケーションまたはアセットに対して、有害なコンテンツに対する保護を最大限に確保しています。
Snowflakeの顧客やパートナーからのニュースに関するコメント
「私たちは、ホスピタリティ業界のリーダー企業として、顧客の声のプラットフォーム内での主要なトピックを深く理解し、定量化するために生成AIに頼っています。Snowflake Cortex AI内でMetaの産業をリードするLlamaモデルにアクセスできるようになったことで、データと対話する力が増し、ビジネス推進のために必要な洞察を得ることができます。」とE15 GroupのSr. Director of Data ProductsであるDave Lindleyは述べています。「私たちは、Llamaを微調整して、ライブゲストのフィードバックに基づいてオペレーションのリアルタイムアクションを駆動させることができるようになることを楽しみにしています。」
「生成AIを利用するにあたり、安全性と信頼性はビジネスにとって必要不可欠であり、Snowflakeは、業界をリードするLLmモデルに対しても、私たちがイノベーションを起こし、活用できる保証を提供しています。」とHakkodaのAIリーダーであるRyan Klapperは述べています。「MetaのLlamaモデルがSnowflake Cortex AI内で利用可能になったことで、私たちは内部のRAGベースのアプリケーションをサービス提供するさらに多くの機会を開拓することができます。これらのアプリケーションにより、ステークホルダーは包括的な内部知識ベースとシームレスにやりとりできるようになり、必要な時に正確で関連性の高い情報にアクセスできるようになります。」
「Snowflake Cortex AI内でのMetaのLlamaモデルの活用により、お客様は最新のオープンソースLLMにアクセスできます。」とMatillionのCEO兼共同創設者であるMatthew Scullionは述べています。「Llama 3.1の追加により、チームとユーザーは、最適なモデルにアクセスするさらに多くの選択肢と柔軟性を得ることができ、AIイノベーションの最先端に立ち続けることができます。Llama 3.1は、SnowflakeのローンチデーにMatillionで直ちに利用可能になります。」
"カスタマー エンゲージメントおよびカスタマー データ プラットフォームのリーダーとして、Twilio のお客様は、適切なデータにアクセスして、適切なメッセージを適切な受信者に適切なタイミングで届ける必要があります。」と、Twilio Segment の製品およびテクノロジー戦略担当バイスプレジデントのKevin Niparko氏は述べています。「Snowflake Cortex AI内のユースケースに合ったモデルを選択できることで、共同顧客はAI駆動の知見を生成し、ダウンストリームツールで簡単に活用できるようになりました。迅速に統合されたデータセット上で反復的に動くことが、ビジネスにとって最高の結果を生む必要があります。」
事例研究：ブルーミントン市はデータ時代に向けて近代化されました
- 特定の領域のユースケースに合わせてLlama 3.1 4050億を利用し、SnowflakeのAI Researchチームからの追加サポートを受けたい企業の方は、こちらのフォームに記入してください。
- Llama 3.1 4050億およびSnowflake Cortex AIの利用方法の詳細については、こちらのクイックスタートガイドをご覧ください。
- 開発者がSnowflake Cortex AI内でLlama 3.1 4050億をどのように活用できるかの方法を掘り下げたブログ記事には、詳細が記載されています。
- SnowflakeのAI Researchチームが大量の多数億パラメータモデルの微調整と並んで、効率的でコスト効果が高い推論を可能にする技術的詳細について深く掘り下げます。
- SnowflakeのAI Researchチームから続々とリリースされる最新の革新と、人工知能の未来を担う専門家たちに会えるAI Research Hubの詳細についてはこちらから。
- LinkedInおよびTwitter / Xで、Snowflakeからの最新ニュースと発表を無視しないでください。
将来の見通しに関する声明
このプレスリリースには、明示的および暗黙の前向きな見通し声明が含まれており、(i) Snowflakeのビジネス戦略、(ii) Snowflakeの製品、サービス、および技術オファリング（開発中または一般的に利用可能でないものを含む）、(iii) 市場成長、動向、および競争上の考慮事項、および(iv) 第三者プラットフォーム上でのSnowflakeの製品の統合性、相互運用性、および利用可能性に関する声明が含まれています。これらの前向きな見通しの情報は、Snowflakeが証券取引委員会に提出する第10-Q形式の四半期報告書および第10-k形式の年次報告書の「リスクファクター」の見出しおよびその他の箇所で記載されているものをはじめ、数多くのリスク、不確実性、および仮定に基づいており、実際の結果はそれらに記載されているよりも大きく逆行することがあります。したがって、前向きな情報に基づいて今後の事象を予測することは避けるべきです。
2024 Snowflake Inc. All rights reserved. Snowflake, the Snowflake logo, and all other Snowflake product, feature and service names mentioned herein are registered trademarks or trademarks of Snowflake Inc. in the United States and other countries. All other brand names or logos mentioned or used herein are for identification purposes only and may be the trademarks of their respective holder(s). Snowflake may not be associated with, or be sponsored or endorsed by, any such holder(s).
スノーフレークについて
Snowflakeは、企業にとってAIを簡単、効率的、信頼できるものにします。世界中の数千の企業、その中でも世界最大手の数百社が、データを共有し、アプリケーションを構築し、AIでビジネスを支援するためにSnowflakeのAIデータクラウドを利用しています。エンタープライズAIの時代はここにあります。snowflake.com （NYSE：SNOW）で詳細をご覧ください。
Kaitlyn Hopkins
スノーフレークのシニアプロダクトPRリード
press@snowflake.com