人工智能基礎設施需求轉變- AMD 的推論市場是否正在蓬勃發展？

隨著對人工智能服務的需求增加，製造行業對支持推理工作負載的基礎設施需求日益增長。

正如我們已經知道的那樣 $英偉達 (NVDA.US)$ GPU正佔據著人工智能訓練領域，而競爭對手都在專注於推理專用的硬件。 $美國超微公司 (AMD.US)$ 已經推出了針對蓬勃發展的推理市場的新產品。

正如我們可以看到的，Nvidia在人工智能訓練方面具有較好的營業收入機會，而不是在人工智能推理方面，最近的股價下跌可能表明了一個轉變。人工智能基礎設施市場正目睹對大型人工智能模型的訓練焦點的顯著轉移，轉向了優化它們的推理——即在實際情況下應用訓練模型的過程。

隨著對以人工智能技術為動力的服務的需求持續增加，對能夠支持實時數據快速高效處理的基礎設施的需求不斷增加。這一轉變正在推動對設計用於大規模處理推理工作負載的專用硬件和數據中心架構的大量投資。

雖然AI訓練過去是AI開發中最耗資源的階段，需要龐大的計算能力和數據，但現在重點正轉向推理。推理是指使用預訓練的AI模型根據新數據進行預測或決策，對於實時應用如推薦引擎、自動駕駛車輛和數字助手至關重要。

通常情況下，由於其並行處理能力，GPU是AI訓練的首選硬件。然而，對於較小或較簡單的推理任務來說，耗能較高的GPU可能過剩，導致不必要的能源消耗和更高的成本。

投資銀行TD Cowen表示，Nvidia不是唯一一家將從生成式AI中受益的半導體公司。

"對於AI總可實現市場增長，尤其是在推理方面，AMD處於良好位置，" TD Cowen分析師在一份報告中表示。其他可能受益於增加推理工作量的企業包括博通和美國超微公司等芯片製造商。

Oppenheimer對AI推理市場有類似的觀點。"我們現在正進入一個必須將生成式AI的推理基礎設施擴展到支持集中式雲端、邊緣運算和物聯網設備的時代，" Oppenheimer分析師在一份報告中表示。

AMD Ryzen AI處理器推理模型的推出恰好抓住了對較小工作負載需求的需求，可以開始並擴展。

Fortune 500公司現在正在測試生成式人工智能並進入商業部署，「推斷」市場將會蓬勃發展。他們將使用AWS、微軟、Google、Oracle、IBM等雲計算服務商部署產品。 Microsoft（MSFT） 、Google、Oracle（ORCL）、IBM等。

Oppenheimer表示：“我們認為，AI推斷市場的將帶來比AI訓練更大的盈利機會，因為AI模型正在根據新的輸入進行預測。”這在各種設備和應用中不斷重復，包括手機上的語音助手、自動駕駛車輛和醫療保健系統。

與此同時，數據中心運營商將受益於技術公司和大型企業對人工智能的投資。

如果我們看看AMD在英偉達下跌帶來的影響，AMD需要與其他半導體公司區隔開來。

伴隨著 $博通 (AVGO.US)$ 因為不算AI業績，營收預測暫跌逾5%。這顯示AI仍然有需求。隨著AI市場的發展，數據中心運營商和芯片製造商越來越關注為高吞吐量、低延遲推理需求的專用硬件。

在AI硬件市場上落後於競爭對手Nvidia後，AMD正加快AI芯片的開發以拉近差距。

儘管AMD當然在數據中心培訓市場上爭奪一席之地，但考慮到Nvidia在該領域的主導地位，AMD越來越把旗下一系列AI加速器定位為強大的推理解決方案。

據報，預計將在2025年推出的MI350系列擁有比AMD當前一代AI芯片高出35倍的推理能力。

設備上的AI技術可能會進一步加速轉向成本和能源效率優先的新型硬件設計。

我相信，隨著AMD在旨在優化AI的個人電腦上越來越普及的加速器，AMD將力求在初創的AI優化個人電腦市場取得優勢。

如果您能在評論區分享您的想法，我會很感激。您認為AMD能否憑借對最終用戶計算設備上的AI芯片需求的優勢恢復過來？

免責聲明: 所述分析和結果不建議或暗示任何對該股票的投資。這純粹是供分析之用。