share_log

Groq Sets New Large Language Model Performance Record of 300 Tokens per Second per User on Meta AI Foundational LLM, Llama-2 70B

Groqは、メタAI基盤LLM、Llama-2 70Bで、ユーザーあたり毎秒300トークンという新しい大規模言語モデルのパフォーマンス記録を樹立しました

PR Newswire ·  2023/11/07 11:00
  • Groq Language Processing Unitシステムは、その推論性能により、リアルタイムかつ「低遅延」のユーザーエクスペリエンスを提供するAI支援技術です。

カリフォルニア州マウンテンビュー, 2023年11月7日PRNewswire/ --GroqAIソリューション企業のGroqは、新興市場の競争の中でも、速度と精度のための基礎的な大規模言語モデル(LLM)のパフォーマンス記録を保持していることを発表しました。Groqは、メタAIの業界をリードするLLMであるLlama-2 70Bを、ユーザーあたり秒間300トークン以上で新たなパフォーマンス基準を設定しました。ユーザー数そのLanguage Processing Unitシステム上で実行されるLlama-2 70Bで、ユーザーあたり秒間300トークン以上を達成しました。

Groqは、新興市場の競争の中でも、速度と精度のための基礎的な大規模言語モデル(LLM)のパフォーマンス記録を保持していると発表しました。
Groqは現在、基礎的なLLMであるLlama-2 70Bを、ユーザーあたり秒間300トークン以上で実行しています。
これらの内容は、情報提供及び投資家教育のためのものであり、いかなる個別株や投資方法を推奨するものではありません。 更に詳しい情報
    コメントする