Learning never end 樓主 102180832 : 推理工作負載將隨着時間的推移繼續增長
首先，長期的人工智能採用將意味着推理需求的增加：
而人工智能正被嵌入更多的實際應用中（例如，客戶服務、醫療診斷、機器人）。
然後，邊緣人工智能和雲人工智能服務（如英偉達的Triton推理服務器）驅動持續的GPU利用率。
因此，推理的計算密集程度可以與訓練一樣：
此外，大規模變換器模型（例如，ChatGPT概念股、Gemini）每個查詢需要數十億參數查找，從而導致高能源和GPU消耗。
最後但同樣重要的是，大規模的推理工作負載（谷歌、Meta、微軟、特斯拉）意味着英偉達的GPU將持續被需要。

Learning never end 樓主 骨神 : 確實

Learning never end 樓主 Chocoloco : 科技股票的價格一直很高，因為它們的估值是基於所謂的未來潛在價值。

Learning never end 樓主 Chocoloco : 我同意你的觀點，但有些情況根本不能用邏輯計算來證明。幾年前的特斯拉是一個很好的例子；整個世界都認為這股票是瘋狂的過價。但是，任何事情都可能發生 — 價格可能非理性地飆升，或者股票可能會崩潰。