hiroaya
がいいねしました
大規模言語モデル(LLM)の性能向上を目指し、長年のライバルであるAppleとNVIDIAが異例の協力関係を築いている。Appleが開発した新しいテキスト生成手法「ReDrafter」をNVIDIAのGPU最適化フレームワークに統合することで、最大2.7倍の処理速度向上を達成した。
アップル👉Accelerating LLM Inference on NVIDIA GPUs with ReDrafter(ReDrafter による NVIDIA GPU での LLM 推論の高速化)
NVIDIA技術ブログ👉NVIDIA TensorRT-LLM Now Supports Recurrent Drafting for Optimizing LLM Inference | NVIDIA Technical Blog(NVIDIA TensorRT-LLM が、LLM 推論を最適化するためのリカレント ドラフティングをサポートするようになりました)
アップル👉Accelerating LLM Inference on NVIDIA GPUs with ReDrafter(ReDrafter による NVIDIA GPU での LLM 推論の高速化)
NVIDIA技術ブログ👉NVIDIA TensorRT-LLM Now Supports Recurrent Drafting for Optimizing LLM Inference | NVIDIA Technical Blog(NVIDIA TensorRT-LLM が、LLM 推論を最適化するためのリカレント ドラフティングをサポートするようになりました)
11
hiroaya
コメントしました
hiroaya
がいいねしました
$エヌビディア (NVDA.US)$ スレ違いごめんなさい。みなさんご存知かと思うのですがふと気付いたので、、、特定口座の源泉徴収って「なし」の方がお得じゃないですか?「あり」では売りで利益が出るたびに税金取られて次の買いの原資が減ってしまう。「なし」なら確定申告で払えばいいよね。moomoo証券では源泉徴収「あり」「なし」の変更まだ出来ないんだって、、、来年になるまでに対応してくれないかな??
12
hiroaya
がいいねしました
hiroaya
がいいねしました
$レダーテック (LDTC.US)$ テキサスインスツルメンツとの提携を発表し、advancedドライバー支援システムと自動運転ソリューションを提供とのPRで爆上げ
これは長期もいけるやつでは?
エグい案件です
これは長期もいけるやつでは?
エグい案件です
7
3