Snowflake, Inc. (NYSE:SNOW) shares are trading higher on Tuesday. The company announced today that it will partner with Meta (NASDAQ:META) to host its Llama 3.1 collection of multilingual open source large language models (LLMs) in Snowflake Cortex AI.
What Happened: Snowflake's AI Research team optimized Llama 3.1 for both inference and fine-tuning, providing a 128K context window, up to 3x lower latency and 1.4x higher throughput compared to existing solutions.
"Snowflake's world-class AI Research Team is blazing a trail for how enterprises and the open source community can harness state-of-the-art open models like Llama 3.1 405B for inference and fine-tuning in a way that maximizes efficiency," said Vivek Raghunathan, vice president of AI engineering at Snowflake.
Alongside the launch of Llama 3.1 405B, Snowflake's AI Research Team is open-sourcing its advanced LLM inference and fine-tuning optimization stack, developed in collaboration with DeepSpeed, Hugging Face, vLLM and the AI community.
This software is designed to address issues related to memory requirements and model scale, and by making it open source, it will be accessible to a broader range of users.
Related Link: Verizon Postpaid Net Adds Decline, But Broadband Growth Is 'Close To The Best': Analyst
SNOW Price Action: At the time of writing, Snowflake stock is moving 1.42% higher at $133.01 per data from Benzinga Pro.
Image: Photo via Shutterstock
スノーフレーク社(NYSE: SNOW)の株式は火曜日に高値で取引されています。同社は本日、Meta(NASDAQ: META)と提携して、Snowflake Cortex AIで多言語オープンソースの大規模言語モデル(LLM)のLlama 3.1コレクションをホストすると発表しました。
何が起こったのか:SnowflakeのAI研究チームは、Llama 3.1を推論と微調整の両方に最適化し、既存のソリューションと比較して12.8のコンテキストウィンドウ、最大3倍の待ち時間、1.4倍のスループットを実現しました。
SnowflakeのAIエンジニアリング担当副社長であるVivek Raghunathanは次のように述べています。「Snowflakeの世界クラスのAI研究チームは、企業やオープンソースコミュニティがLlama 3.1 4050億などの最先端のオープンモデルを活用して、効率を最大化する方法で推論と微調整を行う方法を切り開いています。
Llama 3.1 4050億。SnowflakeのAI研究チームは、DeepSpeed、Hugging Face、VLLM、AIコミュニティと共同で開発した、高度なLLM推論と微調整最適化スタックをオープンソース化しています。
このソフトウェアは、メモリ要件とモデルスケールに関する問題に対処するように設計されており、オープンソースにすることで、より幅広いユーザーが利用できるようになります。
関連リンク:Verizon Postpaid Netは減少傾向を示していますが、ブロードバンドの成長は「最高に近い」:アナリスト
雪の価格動向:これを書いている時点で、スノーフレークの株価はベンジンガ・プロからのデータあたり133.01ドルで 1.42% 上昇しています。
画像:シャッターストック経由の写真