NVIDIA公司(NVDA) UBS全球科技和人工智能大會(實錄)
通話開始: 0000 年 1 月 1 日 9:35 東部標準時午前 10:09
NVIDIA Corporation ( NASDAQ: NVDA )
UBS グローバル テクノロジー カンファレンス コール
2024 年 12 月 3 日 午前 9 時 35 分 (東部標準時)
企業參加者
コレット・クレス - エグゼクティブ・バイスプレジデント兼最高財務責任者
電話會議參與者
tim archuley - UBS
tim archuley
早上好。謝謝大家。我是 tim archuley。感謝您來 NVIDIA，謝謝。Colette 也在這裏。Colette，感謝您抽出時間。那麼，讓我們開始吧。Colette，這兩年真是不可思議。Colette 您目前也在迅速增長。您能談談一些用例是如何發展的嗎？企業廣泛採用人工智能。從雲端、消費者、互聯網、企業的角度看，需求狀況是如何發展的？另外，您也能談談一些非常激動人心的用例嗎。
Colette Kres
知道了。首先我需要開始閱讀聲明。請注意，本演示涉及未來財務預測的描述，投資者應該閱讀我們向SEC提交的報告，以獲取有關我們業務面臨的風險和不確定性的信息。
非常高興見到大家。再次感謝您的歡迎。讓我簡要談一下我們所見過的。僅僅在過去幾個季度裏，我們確實走過了一段非常漫長的道路。但請別忘記我們的業務已有30年的歷史。不過，我們確實正處於一個非常關鍵的階段。
考慮到我們現在所處的階段以及我們見證的事物，我相信許多人已經在過去20至30年中使用並目睹了我們的計算平台，這些平台將在未來數十年中發生變革。這意味着人們會集中在通用計算和加速計算等現有計算平台上。
然而，不僅聚焦於加速計算，還新增了聚焦於人工智能和生成式人工智能的新要素。當然，過去幾個季度中我們看到的新用例之一是模型的規模。如果您回憶一下，在生成式人工智能出現之前，我們曾談論過大型語言模型。
而且，消費者互聯網企業、推薦引擎、模型規模相關工作的重要性變得日益突出。當前，基礎模型相關工作在進行的點上變得非常重要。而由於專注於構建各種類型的基礎模型和多模型類型的模型，因此還看到了這些模型的擴展。
這個過渡的下一階段也將着重於推理階段。在開發大型語言模型之後，關於支持推理模型的系統類型的相關工作將越來越多。我們各種類型的客戶都是獨特的。我們與從初創公司到研究機構的各種企業合作。CSP是最重要的企業之一，爲最終企業提供快速計算。我們與消費者互聯網企業合作，更重要的是，我們在全球範圍內支持這一倡議。
在速度和未來可能發生的事情的理解方面，這是前所未有的。這是我們今天看到的一部分。
蒂姆·阿奇利
我們都擔心最終會建立過剩產能。您認爲我們離這還有很長的距離，我認爲這是您的觀點。那麼，您對前景有何看法，以及您能談談有關供應量和需求狀況的看法嗎？
科萊特·克勒斯
是的，回顧過去幾個季度以及我們的擴展，我們擴展的首要目標是與所有合作伙伴、下游客戶合作，並提供供應。目前並沒有出現放緩的跡象。但是由於模型規模、推理複雜性，需求持續增加，我們正在爲下一個架構Blackwell做準備。
關於即將在本季度推出的 Blackwell，我們目前看到的可能是供應約束，這種情況可能會持續到未來幾個季度。因此，我們不會看到減速。特別是，對於即將推出的新架構的需求和興趣仍然非常高。
tim·阿奇利
是的，確實是這個問題，這是一個非常出色的季度。我們在1月份發貨了Blackwell，並且出貨量超過了我們3個月前預期的數量。與此同時，我聽說供應鏈出現了許多混亂。有許多文章寫着這樣的內容。您能談談Blackwell與以往產品週期的不同之處嗎？
Colette·克雷斯
是的，我們的Blackwell架構是獨特的。但是，我們所做的是在數據中心規模上的構建。請不要誤解。我們多年來一直在從平台的角度進行努力。不僅僅是芯片級別和端到端的規模。但是，從我們的Hopper架構來看，我們的Hopper架構是適用於架構規模和我們所做工作的。
基本上，您在Blackwell架構中看到的部分內容完全構建於我們的供應鏈內。您準備好了嗎？啓動。卸載。安裝後一起啓動。然後，根據生命週期的不同階段，爲客戶提供更多選擇。
換句話說，數據中心是複雜的，爲了實現最高效率，正在進行各種操作。每個過程都處於不同階段。因此，我們可以選擇各種選項。也就是說，可以進行液體冷卻。空冷也可以繼續。可以集成ARM CPU，也可以根據需要集成x86。
我們擁有各種網絡選項，例如InfiniBand和Ethernet，還有其他各種交換機選項。決定權在客戶手中，有各種配置可供選擇。考慮到本季度Blackwell的狀況，關於芯片的情況已經全部完成。
芯片進展順利。我們和芯片一起進行的工作進展順利。目前，我們正在爲各種客戶啓動配置。大家會在網上看到圖片。第一個配置已啓動，準備激動地組裝整個數據中心和各種機架，這是一張幸福笑臉照片。這就是我們目前的情況。
tim·arcuri
太棒了。產品發佈空間有多種，包括 B100、B200。還有帶 CD 的機架。還有，大約 6 個月後將推出 Blackwell Ultra。產品如此快速發佈，客戶是否需要等待風險?
collette·cress
不，考慮到數據中心設計需要什麼，需要計劃。至少在過去的 5 到 10 年中，我們與各種客戶開展了更多工作。客戶每6個月制定一次計劃。這裏有什麼? 要建造什麼? 在項目進行時，需要準備好計算。因此，考慮到仍存在某些供應短缺，我們繼續向客戶提供精彩的 Hopper 200 配置。這是在HGX系統上進行的一部分工作的機會，由於對 GPU 的需求非常高，因此尚未觸及GPU。人們正在與我們合作，了解數據中心的搭建方式。數據中心通常已經採購。他們只是知道要在其中放置什麼。因此，有兩種架構。
另外，如您所知，我們即將實施 Vera Rubin。關於這一點，我們將與客戶進行討論，但首先討論潛在的服務。我們將如何協助客戶考慮未來可能需要什麼。
tim·arcuri
但是，這似乎與 H100 和 H200 順利進行的情況有些相似。也就是說，在推出 Vera 產品之後立即推出產品時，客戶並未等待的證據是嗎?
科勒特·克萊斯
客戶期待着。等待是一種強大的詞語。客戶每天都在打電話，詢問何時能夠看到計算機，我們正在拼命努力爲這種新供應努力。但重要的是不要忘記這可能是一段需要20年的旅程。每個人都將參與其中。我們的架構可以實現端到端的擴展方法，以滿足加速計算和人工智能領域的一切需求。我們不僅在基礎設施方面，而且在軟件方面也是爲客戶提供非常強大的支持候選人。
蒂姆·阿庫裏
謝謝。關於現金，我想問問。實際上，昨晚我們討論了這個話題。在過去的四個季度中，我們創造了大約560億美元的現金流。據我所知，到2025年將創造約1200億美元。即使假設每年回購約500億美元的股票，到明年底將剩下1000億美元的現金，到2026年底可能還剩下2000億美元的現金。這顯然是一個巨大的數字，即使蘋果擁有1000億美元的現金，最終也會減少這筆資金。您打算如何利用這筆現金？
科勒特·克萊斯
關於現金及其使用對於任何公司都是最重要的事項之一。我們正在投入資金和才智通過策略和需求來支持事物。首先要考慮的是，相當的資金是需要用於創新以及支持我們所做的擴張。這將成爲主要部分。但我們也持續不斷，我們知道創新和研發所進行的一切都將成爲至關重要的事項。
現在，我們可以執行從企業學到的東西並考慮到我們工作的角度，這也可以考慮到通過併購方式引入優秀團隊。這對我們來說是一個絕佳的機會，並且我們將繼續努力在這一領域。這將導致我們不僅專注於人工智能新領域，還要專注於新型業務模式。
我們能夠支持的不僅是構建軟件，而且是爲其他企業構建完整系統，我們將投資於此。經過這種類型的投資決定後，我們的工作始終在股東回報方面，我們的重點是通過股票回購和分紅結合來實現，大家將繼續看到這一點，會認真關注這一點。
我們不喜歡過多的現金儲備。因此，我們將對其進行仔細監控，並計劃在下一季度繼續這種做法。
tim Archyuri
聽起來不錯。謝謝。我們已經討論了毛利潤，但是隨着 Blackwell 業績的拓展，毛利潤預計會下降到明年第一季度。其一度上升至70%左右，然後在電話會議中介紹稱將從71%上升至72.5%。然後再次上漲，到年底將再次上漲至70%左右。
您能談談對這一點有多大信心嗎？Rubin 登臺後，有人認爲隨着 Rubin 開始增長，毛利潤率可能再次受到壓力。那麼，您能否談談對能夠長期維持在70%左右的信心？
Colette Kress
明白了。Blackwell 在各個方面都很獨特。即使在這一季度，也在準備推出市場的各種不同版本。不僅僅是一種版本進行出貨，將有多個版本出貨。因此，目前的出貨量非常少。
通過持續擴大這一舉措，一旦我們開始擴大公司持有的各種系統配置，就能夠改善毛利率。但是，關於未來的前景和 Vera Rubin，這還是比較遙遠的話題。在總體擁有成本和我們應該採取的行動方面，我們仍需進行更多分析。
因此，關於我們正在關注的內容，我們將稍後再延伸一些。不過，就 Blackwell 和我們觀察到的內容而言，我們目前處於一個獨特的位置。
tim·阿丘利
那麼，是什麼讓毛利潤這麼大幅提升呢？我記得當初發布Hopper時，毛利潤在60多歲左右。而現在，已經快要達到70多歲了。那麼，是什麼讓毛利潤提升這麼多呢？
科萊特·克雷斯
明白了。在評估向客戶提供的價值時，涉及各種因素。不僅僅是性能。不僅僅是芯片的性能。重要的是找到端到端的解決方案以及客戶可以做出最低 TCO 決定的方法。這有助於確定如何進入市場，使用特定產品的價格。
這個TCO值基本上是從整體端到端的角度來看的。如何完成軟件？如何完成整個數據中心的架構？是否需要其他團隊？不能只看各個組件。也不是僅僅組件和成本加模型這種情況。
因此，通過強大的性能、高效率以及最佳的TCO，可以提供系統內，涵蓋整個系統生命週期的所有軟件，從而形成完整的TCO。
tim·阿丘利
明白了。能否談一下網絡業務？有很多問題涉及到這個。在上個季度下降了。有人預計會增長。另外，由於從InfiniBand過渡到Ethernet，有人認爲網絡業務的地位有些受損。您能談談網絡業務嗎？您認爲它會與計算機業務一起增長嗎？
柯蕾特·克雷斯
我們的網絡業務在轉向數據中心規模時是添加的最重要的業務之一。 不僅需要考慮數據和工作在數據處理中佔據的時間，還需要考慮到對計算機和GPU的使用，這些能力在考慮在數據中心中網絡位置至關重要。
我們有兩種不同的產品。InfiniBand。 InfiniBand 在過去數十年中在許多世界最大的超級計算機上取得了巨大成功。 這在數據大小和經過的數據速度方面非常重要。關於如何處理產生的流量，存在不同的觀點。
Ethernet 對許多公司來說是一個標準的優秀配置。但是，Ethernet 不是爲 AI 而構建的。Ethernet 僅用於構建數據中心內部網絡。因此，我們正在將一些 Inter InfiniBand 的優點融入到爲 AI 構建的以太網中。這使得客戶可以選擇兩種方案。您可以使用 InfiniBand 來構建完整的端到端系統，並且可以選擇在以太網上做什麼。
這兩者對我們來說都是增長的選擇。就這一季度而言，時間是一個問題。但是當前，就網絡的持續性而言，大家看到的一定會增長。通過我們在計算和網絡方面的設計，我們有一些最強大的集群是建立在使用我們的網絡的基礎上的。我們進行的連接作爲自蘭諾斯收購以來是我們工作非常重要的一部分。人們理解和認識到我們的網絡使用以及它如何有助於整個系統是非常重要的。
蒂姆·阿基利
太棒了。您能談談這些大規模語言模型的擴展嗎？已有一些文章提到 Google 和 OpenAI 在利用這些大型模型能力上遇到困難。但另一方面，Meta 參加了收益電話會議，其他公司比如 Anthropic 也表示擴展進展順利。
那麼，您能談談這一點嗎？ 我們意識到訓練後存在微妙差異，當然，一些新的 OpenAI 模型在測試時間上也有不同。擴展的問題是否應該考慮投資者？
科萊特·克雷斯
從正在構建的集群的規模以及許多客戶嘗試執行的工作來看，特別是在培訓方面，我們仍然可以看到存在着擴展規律。在Blackwell的下一代中，將會出現更大規模和更復雜的模型。換句話說，通過強化學習，培訓後階段正在復活，我們真正需要人類的部分，並且通過使用合成數據微調模型的階段也正在復活。
換句話說，培訓永遠不會結束，許多工作將持續進行。但是，也已經制定了一個重點放在推理階段的新技能法。如果您還記得的話，我們是當前最大的推理提供者。我們進行推理比任何其他類型的配置都要多。這是因爲它非常複雜。
我們從伸縮性的角度看到，向深度思考和執行所需時間的推理這一重要部分，從生成式AI開始一直到現在，越來越受到關注。因此，需要額外的計算和能夠以最小延遲在推理元素上執行的計算。
因此，伸縮規律仍然很重要，並且預計今後幾十年將形成更多新規律。
tim·阿克里
您談到了需求的新方面，即政府支持項目，即所謂的主權。您曾表示今年將在這些項目中投資數十億美元，能否舉幾個例子說明這些需求來自何處？此外，您能談談這種需求可能達到何種規模？我認爲，中東的一些大型項目最終可能與美國的BSP規模相當。
這可能是一個非常巨大的需求，您認爲要實現這個需求應該怎麼做呢？
科萊特·克雷斯
關於主權AI和生成AI方面，我們已經看到了很多非常有趣的地方。簡單來說，他們看到的是在美國看到的，每個國家都有責任在我想要時候看到它。他們希望有一個基於他們自己的語言和文化的模型，基礎模型來支持自己的國家。他們認識到了未來幾十年AI的重要性。
因此，我們與各個國家合作或者您關注的特定地域的活動，在我們進行的全球AI工作中佔據着很大的比重。這不僅僅是在美國西海岸，而是全球各地。並非所有，只有一部分收到政府資助。許多人關注能夠支持加速計算並啓動一系列新型地區CSP的大型公司。我們認爲將與他們共同建立支持企業的基礎模型。
關於日本正在發生的事情，我們已經談到了。軟銀對構建非常大型模型的某些領域非常感興趣。在印度，許多CSP正從採用何種方法的角度考慮這個問題。
這一發展擴展到歐洲，北歐國家以及亞太地區也佔據着非常重要的部分。因此，欲了解我們所見下一代超級計算機的各國，需要爲AI和主權AI做什麼從GDP中獲利。
tim·阿克拉
很好。您能談一談軟件業務嗎？您提到今年年度超過20億美元的運營率。我將大致計算一下，看看在GPU改造中直接賺錢的GPU的數量。
附件率約爲10%，大約10%是直接授權的。您如何看待附件率，以及通過直接授權GPU軟件實現了多大的成功？
柯萊特·克雷斯
是的。我們的軟件平台對於我們許多企業和地區的CSP、未來的AI工廠以及我們正在努力構建的AI基礎設施工作都至關重要。爲什麼呢？作爲了解向AI過渡和開始的方法的第一步，我們擁有成千上萬個不同的應用程序、CUDA庫、針對各行業執行的CUDA工作，以及這些行業內各個主要工作負載。
企業需要的不僅是必須由自身完成的工作，還需要支持數據中心基礎設施所需工作的部分。因此，我們正在爲企業構建這部分，通常情況下，企業的客戶需要這部分來支持他們正在進行的工作，因此對這些軟件有着非常強烈的依戀。
擁有非常龐大軟件團隊的企業與我數十年來自力構建的企業不同。但是，正如您想象的，我們無法回到培養所有軟件工程師的時代。因此，我們已經花費了大量高質量的時間來支持許多企業。
我們與企業合作，從選擇進行何種計算，到模型創建，各種應用配置，直至整體推理，一路支持到最後。換句話說，其中包含的不僅僅是軟件。該軟件還附帶來自企業的真正支持和服務。
tim·阿庫裏
因此，儘管我們只關注企業市場，您的附着率實際上可能會比這高得多，對嗎？
柯萊特·克雷斯
是的。就是這樣。
tim arquille
明白了。太棒了。我們都在談論數據中心，但在邊緣計算方面推斷將成爲更大的主題。您可以談談您在邊緣位置的看法嗎？ PC 有廣泛的安裝基地，這應該對您非常有利，還有Omniverse。機器人工程是一個重要的主題。那麼，您可以談談您正在提供的東西，以及作爲邊緣玩家應該如何思考嗎？
科萊特 克雷斯
是的，邊緣計算，邊緣人工智能是非常相似的，可能會繼續協同存在。換句話說，工廠會存在。數據中心將收集數據，並將其提供給許多邊緣設備，也就是汽車駕駛員，這就是無人駕駛汽車。
下一步可能涉及機器人工程。數據和學習將在數據中心中進行，這是一個非常大的產業，將在各種設備內部進行，我們的功能將支持它們。這是一個重要的產業。我們知道，數據中心部分是一個非常大的市場，對未來發展非常重要。
這也包括我們正在開發的新軟件。正如您所知，我們目前正在開發明年下半年將推出的無人駕駛汽車軟件。此外，在機器人工程內部，通過該軟件可以執行的工作，以及通過Omniverse 可以在許多工廠中執行的工作，以及整體佈局如何運作等方面進行思考。
因此，這些領域除了標準數據中心之外也是非常重要的重點。然而，邊緣計算也將成爲重要因素。
tim·ākǔlǐ
非常好。您能談談推理和訓練嗎？您提到推理佔收入約40%，您認爲它將如何發展？
科萊特·克萊絲
約40%。我們已經開始考慮他們正在進行的用例。可以看出推理是耗費大量時間的。這是在我們看到市場中推出的許多生成AI應用程序處於最糟糕的狀態之前的情況。
推薦引擎在當今推理中扮演着非常重要的角色。因此，未來會看到40%的增長。但是，正如我之前所說，就推理而言，我們仍然是佼佼者。特別是在考慮到Blackwell架構，尤其是GB200、NVL時，這是一個重要的組成部分，並且與我們當前一代相比，推理性能提高了30倍。
這對許多客戶來說非常重要。客戶可能會在構建基礎模型時首先使用它所需的東西。但是，在Blackwell推理的過程中，受到許多客戶的高度評價的部分是非常重要的。
tim·ākǔlǐ
非常好。接着，您已經談到了Blackwell的限制，可能會在25年中期開始放寬。您能談談這些限制嗎？可以預期它們在25年中期開始放寬嗎？
科萊特·克萊斯
考慮與Blackwell就製造、設計和構成方面與客戶的合作，Cane's Fast and Furious在需求方面異常強勁。我們與許多合作伙伴緊密合作。我們每天與供應商進行溝通，支持他們。因此，目前需要擴大規模以滿足需求。
可能會在新會計年度的前幾個月存在供應限制。供應的限制在哪裏？取決於構成，但其中一部分挑戰是共同空間中工作。需要進行各種構成方面的工作以及參與網絡切換的所有工作，都需要正確執行。根據構成，供應可能會受到限制。但就目前季度而言，我們計劃立即運送Blackwell。Blackwell進展順利，我們非常期待本季度向客戶提供多種構成。
蒂姆·阿奇裏
嗯，我相信明年肯定會是一個美好的一年。總之，科萊特，謝謝。我相信感激之情已經傳達。
科萊特·克萊斯
好的，知道了。再見。
NVIDIA Corporation ( NASDAQ: NVDA )
UBS グローバル テクノロジー カンファレンス コール
2024 年 12 月 3 日 午前 9 時 35 分 (東部標準時)
企業參加者
コレット・クレス - エグゼクティブ・バイスプレジデント兼最高財務責任者
電話會議參與者
tim archuley - UBS
tim archuley
早上好。謝謝大家。我是 tim archuley。感謝您來 NVIDIA，謝謝。Colette 也在這裏。Colette，感謝您抽出時間。那麼，讓我們開始吧。Colette，這兩年真是不可思議。Colette 您目前也在迅速增長。您能談談一些用例是如何發展的嗎？企業廣泛採用人工智能。從雲端、消費者、互聯網、企業的角度看，需求狀況是如何發展的？另外，您也能談談一些非常激動人心的用例嗎。
Colette Kres
知道了。首先我需要開始閱讀聲明。請注意，本演示涉及未來財務預測的描述，投資者應該閱讀我們向SEC提交的報告，以獲取有關我們業務面臨的風險和不確定性的信息。
非常高興見到大家。再次感謝您的歡迎。讓我簡要談一下我們所見過的。僅僅在過去幾個季度裏，我們確實走過了一段非常漫長的道路。但請別忘記我們的業務已有30年的歷史。不過，我們確實正處於一個非常關鍵的階段。
考慮到我們現在所處的階段以及我們見證的事物，我相信許多人已經在過去20至30年中使用並目睹了我們的計算平台，這些平台將在未來數十年中發生變革。這意味着人們會集中在通用計算和加速計算等現有計算平台上。
然而，不僅聚焦於加速計算，還新增了聚焦於人工智能和生成式人工智能的新要素。當然，過去幾個季度中我們看到的新用例之一是模型的規模。如果您回憶一下，在生成式人工智能出現之前，我們曾談論過大型語言模型。
而且，消費者互聯網企業、推薦引擎、模型規模相關工作的重要性變得日益突出。當前，基礎模型相關工作在進行的點上變得非常重要。而由於專注於構建各種類型的基礎模型和多模型類型的模型，因此還看到了這些模型的擴展。
這個過渡的下一階段也將着重於推理階段。在開發大型語言模型之後，關於支持推理模型的系統類型的相關工作將越來越多。我們各種類型的客戶都是獨特的。我們與從初創公司到研究機構的各種企業合作。CSP是最重要的企業之一，爲最終企業提供快速計算。我們與消費者互聯網企業合作，更重要的是，我們在全球範圍內支持這一倡議。
在速度和未來可能發生的事情的理解方面，這是前所未有的。這是我們今天看到的一部分。
蒂姆·阿奇利
我們都擔心最終會建立過剩產能。您認爲我們離這還有很長的距離，我認爲這是您的觀點。那麼，您對前景有何看法，以及您能談談有關供應量和需求狀況的看法嗎？
科萊特·克勒斯
是的，回顧過去幾個季度以及我們的擴展，我們擴展的首要目標是與所有合作伙伴、下游客戶合作，並提供供應。目前並沒有出現放緩的跡象。但是由於模型規模、推理複雜性，需求持續增加，我們正在爲下一個架構Blackwell做準備。
關於即將在本季度推出的 Blackwell，我們目前看到的可能是供應約束，這種情況可能會持續到未來幾個季度。因此，我們不會看到減速。特別是，對於即將推出的新架構的需求和興趣仍然非常高。
tim·阿奇利
是的，確實是這個問題，這是一個非常出色的季度。我們在1月份發貨了Blackwell，並且出貨量超過了我們3個月前預期的數量。與此同時，我聽說供應鏈出現了許多混亂。有許多文章寫着這樣的內容。您能談談Blackwell與以往產品週期的不同之處嗎？
Colette·克雷斯
是的，我們的Blackwell架構是獨特的。但是，我們所做的是在數據中心規模上的構建。請不要誤解。我們多年來一直在從平台的角度進行努力。不僅僅是芯片級別和端到端的規模。但是，從我們的Hopper架構來看，我們的Hopper架構是適用於架構規模和我們所做工作的。
基本上，您在Blackwell架構中看到的部分內容完全構建於我們的供應鏈內。您準備好了嗎？啓動。卸載。安裝後一起啓動。然後，根據生命週期的不同階段，爲客戶提供更多選擇。
換句話說，數據中心是複雜的，爲了實現最高效率，正在進行各種操作。每個過程都處於不同階段。因此，我們可以選擇各種選項。也就是說，可以進行液體冷卻。空冷也可以繼續。可以集成ARM CPU，也可以根據需要集成x86。
我們擁有各種網絡選項，例如InfiniBand和Ethernet，還有其他各種交換機選項。決定權在客戶手中，有各種配置可供選擇。考慮到本季度Blackwell的狀況，關於芯片的情況已經全部完成。
芯片進展順利。我們和芯片一起進行的工作進展順利。目前，我們正在爲各種客戶啓動配置。大家會在網上看到圖片。第一個配置已啓動，準備激動地組裝整個數據中心和各種機架，這是一張幸福笑臉照片。這就是我們目前的情況。
tim·arcuri
太棒了。產品發佈空間有多種，包括 B100、B200。還有帶 CD 的機架。還有，大約 6 個月後將推出 Blackwell Ultra。產品如此快速發佈，客戶是否需要等待風險?
collette·cress
不，考慮到數據中心設計需要什麼，需要計劃。至少在過去的 5 到 10 年中，我們與各種客戶開展了更多工作。客戶每6個月制定一次計劃。這裏有什麼? 要建造什麼? 在項目進行時，需要準備好計算。因此，考慮到仍存在某些供應短缺，我們繼續向客戶提供精彩的 Hopper 200 配置。這是在HGX系統上進行的一部分工作的機會，由於對 GPU 的需求非常高，因此尚未觸及GPU。人們正在與我們合作，了解數據中心的搭建方式。數據中心通常已經採購。他們只是知道要在其中放置什麼。因此，有兩種架構。
另外，如您所知，我們即將實施 Vera Rubin。關於這一點，我們將與客戶進行討論，但首先討論潛在的服務。我們將如何協助客戶考慮未來可能需要什麼。
tim·arcuri
但是，這似乎與 H100 和 H200 順利進行的情況有些相似。也就是說，在推出 Vera 產品之後立即推出產品時，客戶並未等待的證據是嗎?
科勒特·克萊斯
客戶期待着。等待是一種強大的詞語。客戶每天都在打電話，詢問何時能夠看到計算機，我們正在拼命努力爲這種新供應努力。但重要的是不要忘記這可能是一段需要20年的旅程。每個人都將參與其中。我們的架構可以實現端到端的擴展方法，以滿足加速計算和人工智能領域的一切需求。我們不僅在基礎設施方面，而且在軟件方面也是爲客戶提供非常強大的支持候選人。
蒂姆·阿庫裏
謝謝。關於現金，我想問問。實際上，昨晚我們討論了這個話題。在過去的四個季度中，我們創造了大約560億美元的現金流。據我所知，到2025年將創造約1200億美元。即使假設每年回購約500億美元的股票，到明年底將剩下1000億美元的現金，到2026年底可能還剩下2000億美元的現金。這顯然是一個巨大的數字，即使蘋果擁有1000億美元的現金，最終也會減少這筆資金。您打算如何利用這筆現金？
科勒特·克萊斯
關於現金及其使用對於任何公司都是最重要的事項之一。我們正在投入資金和才智通過策略和需求來支持事物。首先要考慮的是，相當的資金是需要用於創新以及支持我們所做的擴張。這將成爲主要部分。但我們也持續不斷，我們知道創新和研發所進行的一切都將成爲至關重要的事項。
現在，我們可以執行從企業學到的東西並考慮到我們工作的角度，這也可以考慮到通過併購方式引入優秀團隊。這對我們來說是一個絕佳的機會，並且我們將繼續努力在這一領域。這將導致我們不僅專注於人工智能新領域，還要專注於新型業務模式。
我們能夠支持的不僅是構建軟件，而且是爲其他企業構建完整系統，我們將投資於此。經過這種類型的投資決定後，我們的工作始終在股東回報方面，我們的重點是通過股票回購和分紅結合來實現，大家將繼續看到這一點，會認真關注這一點。
我們不喜歡過多的現金儲備。因此，我們將對其進行仔細監控，並計劃在下一季度繼續這種做法。
tim Archyuri
聽起來不錯。謝謝。我們已經討論了毛利潤，但是隨着 Blackwell 業績的拓展，毛利潤預計會下降到明年第一季度。其一度上升至70%左右，然後在電話會議中介紹稱將從71%上升至72.5%。然後再次上漲，到年底將再次上漲至70%左右。
您能談談對這一點有多大信心嗎？Rubin 登臺後，有人認爲隨着 Rubin 開始增長，毛利潤率可能再次受到壓力。那麼，您能否談談對能夠長期維持在70%左右的信心？
Colette Kress
明白了。Blackwell 在各個方面都很獨特。即使在這一季度，也在準備推出市場的各種不同版本。不僅僅是一種版本進行出貨，將有多個版本出貨。因此，目前的出貨量非常少。
通過持續擴大這一舉措，一旦我們開始擴大公司持有的各種系統配置，就能夠改善毛利率。但是，關於未來的前景和 Vera Rubin，這還是比較遙遠的話題。在總體擁有成本和我們應該採取的行動方面，我們仍需進行更多分析。
因此，關於我們正在關注的內容，我們將稍後再延伸一些。不過，就 Blackwell 和我們觀察到的內容而言，我們目前處於一個獨特的位置。
tim·阿丘利
那麼，是什麼讓毛利潤這麼大幅提升呢？我記得當初發布Hopper時，毛利潤在60多歲左右。而現在，已經快要達到70多歲了。那麼，是什麼讓毛利潤提升這麼多呢？
科萊特·克雷斯
明白了。在評估向客戶提供的價值時，涉及各種因素。不僅僅是性能。不僅僅是芯片的性能。重要的是找到端到端的解決方案以及客戶可以做出最低 TCO 決定的方法。這有助於確定如何進入市場，使用特定產品的價格。
這個TCO值基本上是從整體端到端的角度來看的。如何完成軟件？如何完成整個數據中心的架構？是否需要其他團隊？不能只看各個組件。也不是僅僅組件和成本加模型這種情況。
因此，通過強大的性能、高效率以及最佳的TCO，可以提供系統內，涵蓋整個系統生命週期的所有軟件，從而形成完整的TCO。
tim·阿丘利
明白了。能否談一下網絡業務？有很多問題涉及到這個。在上個季度下降了。有人預計會增長。另外，由於從InfiniBand過渡到Ethernet，有人認爲網絡業務的地位有些受損。您能談談網絡業務嗎？您認爲它會與計算機業務一起增長嗎？
柯蕾特·克雷斯
我們的網絡業務在轉向數據中心規模時是添加的最重要的業務之一。 不僅需要考慮數據和工作在數據處理中佔據的時間，還需要考慮到對計算機和GPU的使用，這些能力在考慮在數據中心中網絡位置至關重要。
我們有兩種不同的產品。InfiniBand。 InfiniBand 在過去數十年中在許多世界最大的超級計算機上取得了巨大成功。 這在數據大小和經過的數據速度方面非常重要。關於如何處理產生的流量，存在不同的觀點。
Ethernet 對許多公司來說是一個標準的優秀配置。但是，Ethernet 不是爲 AI 而構建的。Ethernet 僅用於構建數據中心內部網絡。因此，我們正在將一些 Inter InfiniBand 的優點融入到爲 AI 構建的以太網中。這使得客戶可以選擇兩種方案。您可以使用 InfiniBand 來構建完整的端到端系統，並且可以選擇在以太網上做什麼。
這兩者對我們來說都是增長的選擇。就這一季度而言，時間是一個問題。但是當前，就網絡的持續性而言，大家看到的一定會增長。通過我們在計算和網絡方面的設計，我們有一些最強大的集群是建立在使用我們的網絡的基礎上的。我們進行的連接作爲自蘭諾斯收購以來是我們工作非常重要的一部分。人們理解和認識到我們的網絡使用以及它如何有助於整個系統是非常重要的。
蒂姆·阿基利
太棒了。您能談談這些大規模語言模型的擴展嗎？已有一些文章提到 Google 和 OpenAI 在利用這些大型模型能力上遇到困難。但另一方面，Meta 參加了收益電話會議，其他公司比如 Anthropic 也表示擴展進展順利。
那麼，您能談談這一點嗎？ 我們意識到訓練後存在微妙差異，當然，一些新的 OpenAI 模型在測試時間上也有不同。擴展的問題是否應該考慮投資者？
科萊特·克雷斯
從正在構建的集群的規模以及許多客戶嘗試執行的工作來看，特別是在培訓方面，我們仍然可以看到存在着擴展規律。在Blackwell的下一代中，將會出現更大規模和更復雜的模型。換句話說，通過強化學習，培訓後階段正在復活，我們真正需要人類的部分，並且通過使用合成數據微調模型的階段也正在復活。
換句話說，培訓永遠不會結束，許多工作將持續進行。但是，也已經制定了一個重點放在推理階段的新技能法。如果您還記得的話，我們是當前最大的推理提供者。我們進行推理比任何其他類型的配置都要多。這是因爲它非常複雜。
我們從伸縮性的角度看到，向深度思考和執行所需時間的推理這一重要部分，從生成式AI開始一直到現在，越來越受到關注。因此，需要額外的計算和能夠以最小延遲在推理元素上執行的計算。
因此，伸縮規律仍然很重要，並且預計今後幾十年將形成更多新規律。
tim·阿克里
您談到了需求的新方面，即政府支持項目，即所謂的主權。您曾表示今年將在這些項目中投資數十億美元，能否舉幾個例子說明這些需求來自何處？此外，您能談談這種需求可能達到何種規模？我認爲，中東的一些大型項目最終可能與美國的BSP規模相當。
這可能是一個非常巨大的需求，您認爲要實現這個需求應該怎麼做呢？
科萊特·克雷斯
關於主權AI和生成AI方面，我們已經看到了很多非常有趣的地方。簡單來說，他們看到的是在美國看到的，每個國家都有責任在我想要時候看到它。他們希望有一個基於他們自己的語言和文化的模型，基礎模型來支持自己的國家。他們認識到了未來幾十年AI的重要性。
因此，我們與各個國家合作或者您關注的特定地域的活動，在我們進行的全球AI工作中佔據着很大的比重。這不僅僅是在美國西海岸，而是全球各地。並非所有，只有一部分收到政府資助。許多人關注能夠支持加速計算並啓動一系列新型地區CSP的大型公司。我們認爲將與他們共同建立支持企業的基礎模型。
關於日本正在發生的事情，我們已經談到了。軟銀對構建非常大型模型的某些領域非常感興趣。在印度，許多CSP正從採用何種方法的角度考慮這個問題。
這一發展擴展到歐洲，北歐國家以及亞太地區也佔據着非常重要的部分。因此，欲了解我們所見下一代超級計算機的各國，需要爲AI和主權AI做什麼從GDP中獲利。
tim·阿克拉
很好。您能談一談軟件業務嗎？您提到今年年度超過20億美元的運營率。我將大致計算一下，看看在GPU改造中直接賺錢的GPU的數量。
附件率約爲10%，大約10%是直接授權的。您如何看待附件率，以及通過直接授權GPU軟件實現了多大的成功？
柯萊特·克雷斯
是的。我們的軟件平台對於我們許多企業和地區的CSP、未來的AI工廠以及我們正在努力構建的AI基礎設施工作都至關重要。爲什麼呢？作爲了解向AI過渡和開始的方法的第一步，我們擁有成千上萬個不同的應用程序、CUDA庫、針對各行業執行的CUDA工作，以及這些行業內各個主要工作負載。
企業需要的不僅是必須由自身完成的工作，還需要支持數據中心基礎設施所需工作的部分。因此，我們正在爲企業構建這部分，通常情況下，企業的客戶需要這部分來支持他們正在進行的工作，因此對這些軟件有着非常強烈的依戀。
擁有非常龐大軟件團隊的企業與我數十年來自力構建的企業不同。但是，正如您想象的，我們無法回到培養所有軟件工程師的時代。因此，我們已經花費了大量高質量的時間來支持許多企業。
我們與企業合作，從選擇進行何種計算，到模型創建，各種應用配置，直至整體推理，一路支持到最後。換句話說，其中包含的不僅僅是軟件。該軟件還附帶來自企業的真正支持和服務。
tim·阿庫裏
因此，儘管我們只關注企業市場，您的附着率實際上可能會比這高得多，對嗎？
柯萊特·克雷斯
是的。就是這樣。
tim arquille
明白了。太棒了。我們都在談論數據中心，但在邊緣計算方面推斷將成爲更大的主題。您可以談談您在邊緣位置的看法嗎？ PC 有廣泛的安裝基地，這應該對您非常有利，還有Omniverse。機器人工程是一個重要的主題。那麼，您可以談談您正在提供的東西，以及作爲邊緣玩家應該如何思考嗎？
科萊特 克雷斯
是的，邊緣計算，邊緣人工智能是非常相似的，可能會繼續協同存在。換句話說，工廠會存在。數據中心將收集數據，並將其提供給許多邊緣設備，也就是汽車駕駛員，這就是無人駕駛汽車。
下一步可能涉及機器人工程。數據和學習將在數據中心中進行，這是一個非常大的產業，將在各種設備內部進行，我們的功能將支持它們。這是一個重要的產業。我們知道，數據中心部分是一個非常大的市場，對未來發展非常重要。
這也包括我們正在開發的新軟件。正如您所知，我們目前正在開發明年下半年將推出的無人駕駛汽車軟件。此外，在機器人工程內部，通過該軟件可以執行的工作，以及通過Omniverse 可以在許多工廠中執行的工作，以及整體佈局如何運作等方面進行思考。
因此，這些領域除了標準數據中心之外也是非常重要的重點。然而，邊緣計算也將成爲重要因素。
tim·ākǔlǐ
非常好。您能談談推理和訓練嗎？您提到推理佔收入約40%，您認爲它將如何發展？
科萊特·克萊絲
約40%。我們已經開始考慮他們正在進行的用例。可以看出推理是耗費大量時間的。這是在我們看到市場中推出的許多生成AI應用程序處於最糟糕的狀態之前的情況。
推薦引擎在當今推理中扮演着非常重要的角色。因此，未來會看到40%的增長。但是，正如我之前所說，就推理而言，我們仍然是佼佼者。特別是在考慮到Blackwell架構，尤其是GB200、NVL時，這是一個重要的組成部分，並且與我們當前一代相比，推理性能提高了30倍。
這對許多客戶來說非常重要。客戶可能會在構建基礎模型時首先使用它所需的東西。但是，在Blackwell推理的過程中，受到許多客戶的高度評價的部分是非常重要的。
tim·ākǔlǐ
非常好。接着，您已經談到了Blackwell的限制，可能會在25年中期開始放寬。您能談談這些限制嗎？可以預期它們在25年中期開始放寬嗎？
科萊特·克萊斯
考慮與Blackwell就製造、設計和構成方面與客戶的合作，Cane's Fast and Furious在需求方面異常強勁。我們與許多合作伙伴緊密合作。我們每天與供應商進行溝通，支持他們。因此，目前需要擴大規模以滿足需求。
可能會在新會計年度的前幾個月存在供應限制。供應的限制在哪裏？取決於構成，但其中一部分挑戰是共同空間中工作。需要進行各種構成方面的工作以及參與網絡切換的所有工作，都需要正確執行。根據構成，供應可能會受到限制。但就目前季度而言，我們計劃立即運送Blackwell。Blackwell進展順利，我們非常期待本季度向客戶提供多種構成。
蒂姆·阿奇裏
嗯，我相信明年肯定會是一個美好的一年。總之，科萊特，謝謝。我相信感激之情已經傳達。
科萊特·克萊斯
好的，知道了。再見。
免責聲明：社區由Moomoo Technologies Inc.提供，僅用於教育目的。
更多信息
評論
登錄發表評論
