TSLA
テスラ
-- 292.980 NVDA
エヌビディア
-- 124.920 PLTR
パランティア・テクノロジーズ
-- 84.920 MSTR
マイクロストラテジー クラスA
-- 255.430 SOUN
サウンドハウンドAI
-- 10.820 
NVIDIA Corporation (NVDA) UBS グローバル テクノロジーおよび AI カンファレンス (トランスクリプト)
通話開始: 0000 年 1 月 1 日 9:35 東部標準時午前 10:09
NVIDIA Corporation ( NASDAQ: NVDA )
UBS グローバル テクノロジー カンファレンス コール
2024 年 12 月 3 日 午前 9 時 35 分 (東部標準時)
企業参加者
コレット・クレス - エグゼクティブ・バイスプレジデント兼最高財務責任者
電話会議参加者
ティム・アーキュリ - UBS
ティム・アーキュリ
おはようございます。ありがとうございます。ティム・アーキュリです。NVIDIA にお越しいただき、ありがとうございます。コレットさんもいらっしゃいます。コレットさん、お時間をいただきありがとうございます。それでは、これから始めましょう。コレットさん、この 2 年間は素晴らしいものでした。コレットさんは今も急速に成長しています。ユースケースのいくつかについて、どのように進化してきたかお話しいただけますか。企業では AI を幅広く採用しています。クラウド、消費者、インターネット、企業の観点から、需要の状況はどのように進化してきましたか。また、非常にエキサイティングなユースケースについてもお話しいただけますか。
コレット・クレス
わかりました。まずは私が読まなければならない声明から始めましょう。念のため、このプレゼンテーションには将来予想に関する記述が含まれており、投資家は、当社の事業が直面するリスクや不確実性に関する情報を得るために、SEC に提出した当社の報告書を読むことをお勧めします。
さて、皆さんにお会いできて本当にうれしく思います。また、私たちをお迎えしてくださり、本当にありがとうございます。私たちが見てきたことについて少しお話しさせてください。ここ数四半期だけでも、確かに非常に速い道のりでした。しかし、私たちが行っているビジネスに関しては、30年の歴史があることを忘れないでください。しかし、私たちは確かに非常に重要な段階にあります。
私たちが今いる段階と、私たちが目にしているものについて考えると、私たちの多くが 20 ～ 30 年以上にわたって使用し、目にしてきたコンピューティング プラットフォームは、今後数十年にわたって変革を遂げることになるだろうと確信しています。つまり、汎用コンピューティングやアクセラレーテッド コンピューティングへの移行など、既存のコンピューティング プラットフォームに集中する人々がいるということです。
しかし、アクセラレーテッド コンピューティングに焦点を合わせるだけでなく、AI と Generative AI に焦点を合わせるという新たな要素も追加されました。もちろん、過去数四半期にわたって見てきた新しいユース ケースは、モデルのサイズです。思い出していただければ、Generative AI が登場する直前に、大規模な言語モデルについて話していました。
そして、消費者向けインターネット企業、レコメンデーション エンジン、モデル サイズに関する作業の多くに彼らが関わっていたことの重要性は、ますます大きくなっています。現在、基礎モデルに関する作業は、行われている作業の点で非常に重要なものです。しかし、さまざまなタイプの基礎モデルやマルチモーダル タイプのモデルの構築に重点が置かれているため、これらのモデルのスケーリングも見られます。
この移行の次の段階も、推論段階に重点が置かれています。大規模な言語モデルを開発した後、推論モデルをサポートするシステムの種類に関して、作業がますます増えていきます。当社のさまざまなタイプの顧客はすべてユニークです。当社はスタートアップから研究まであらゆる企業と連携しています。CSP は、それを必要とする最終企業向けに高速コンピューティングを立ち上げている最も重要な企業の一部です。当社は消費者向けインターネット企業と連携していますが、さらに重要なのは、この取り組みをサポートするという点で世界的に取り組んでいることです。
スピードと、これから何が起こるかという理解という点では、これまで見たことのないものでした。これが、今日私たちが目にしているものの一部です。
ティム・アーキュリ
私たちは皆、最終的には過剰な生産能力を構築することになるのではないかと心配しています。そして、あなたの見解は、私たちはまだそれには程遠いということだと思います。では、どの程度の見通しを持っているのか、また、供給可能な量に対する需要の状況についてお話しいただけますか。
コレット・クレス
はい、過去の四半期と当社のスケーリングを見ると、スケーリングに関する当社の第一の目標は、すべてのパートナー、下流のお客様と協力すること、そして供給をもたらすことです。いいえ、現時点では減速が見られるような状況ではありません。しかし、モデルのサイズ、推論の複雑さにより、需要が引き続き大きく高まっていることが現在確認されており、当社は次のアーキテクチャである Blackwell の準備を進めています。
そして、今四半期に登場予定の Blackwell に関して、現在私たちが見ているのは、おそらく供給制約であり、今後数四半期にわたって来期まで続くことになるでしょう。ですから、減速は見られません。特に、今後登場する新しいアーキテクチャに対する需要と関心は引き続き非常に高いと見ています。
ティム・アーキュリ
そうですね、その点についてですが、素晴らしい四半期でしたね。1月にBlackwellを出荷し、3か月前に予想していたよりも多くのBlackwellを出荷しています。それと同時に、サプライチェーンに多くの混乱が起きていると聞いています。多くの記事が書かれ、そのようなことが書かれています。Blackwellが以前の製品サイクルとどのように違うのか、お話しいただけますか?
コレット・クレス
はい、当社の Blackwell アーキテクチャはユニークです。しかし、ここで行っているのはデータセンター規模での構築です。誤解しないでください。当社は長年、プラットフォームの観点で取り組んできました。チップ レベルやエンドツーエンドのスケールだけではありません。しかし、当社の Hopper アーキテクチャを見ると、当社の Hopper アーキテクチャはラック スケールと当社が行ってきた作業向けであることがわかります。
基本的に、Blackwell アーキテクチャでご覧になっているものの一部は、当社のサプライ チェーン内で完全に構築されます。準備はできましたか? 立ち上げます。取り外します。取り付けたら、一緒に立ち上げます。そして、ライフサイクルのどの段階にいるかに応じて、お客様により多くの選択肢を提供します。
つまり、データセンターは複雑であり、最も効率的にするためにさまざまなことが行われています。それぞれがさまざまな段階にあります。そのため、私たちが行っているさまざまなオプションから選択できます。つまり、液体冷却が可能です。空冷も継続できます。ARM CPU を組み込むこともできますが、必要に応じて x86 も組み込むことができます。
当社には、InfiniBand や Ethernet など、さまざまなネットワーク オプションがあり、他にもさまざまなスイッチ オプションがあります。その決定はお客様次第であり、さまざまな構成があります。今四半期の Blackwell の状況を考えると、チップに関してはすべて完了しています。
チップは順調です。チップと私たちが行った作業は順調に進んでいます。現在、私たちはさまざまなお客様のために構成を立ち上げています。皆さんはインターネットで写真を見るでしょう。最初の構成を立ち上げ、データセンター全体とさまざまなラックをすべて組み立てる準備に興奮している、幸せそうな顔の写真です。これが私たちの現在の状況です。
ティム・アーキュリ
素晴らしいですね。製品のリリースペースはさまざまで、B100、B200 があります。CD 付きラックもあります。そして、約 6 か月後に Blackwell Ultra が登場します。製品がこんなに早くリリースされるため、お客様が待つリスクはありますか?
コレット・クレス
いいえ、データセンターの設計に何が必要かを考えると、計画が必要です。少なくとも過去 5 年から 10 年の間に、さまざまなお客様とより多くの作業を行うようになりました。お客様は 6 か月ごとに計画を立てています。ここには何があるか? 何を構築するのか? プロジェクトで作業している時点でコンピューティングの準備を整える必要があります。そのため、まだ供給が不足しているものがあることを考慮に入れて、当社は引き続きお客様に素晴らしい構成の Hopper 200 を提供しています。これは、HGX システムで行っている作業の一部を開始する機会であり、GPU への需要が非常に高まっているため、まだ GPU に触れていません。人々は当社と協力して、データセンターの構築方法を理解しています。データセンターはすでに調達されていることがよくあります。彼らは、その中に何を配置する必要があるかを知っているだけです。そのため、2 つのアーキテクチャーがあります。
さらに、ご存知のとおり、当社は今後 Vera Rubin を実施します。これについても、お客様と話し合うことになりますが、まずは潜在的なサービスについてお話しします。今後何が必要になる可能性があるか、どのように考えていくお手伝いができるでしょうか。
ティム・アーキュリ
しかし、これは、顧客が待たずにうまくいった H100 や H200 と少し似ていると思います。つまり、Vera 製品の直後に製品が発売されたときに、顧客が待たなかったという証拠はあるということですか?
コレット・クレス
顧客は待ち望んでいます。待つというのは強い言葉です。顧客は毎日電話をかけてきて、いつコンピューティングが見られるのか尋ねており、私たちはその新しい供給のために必死に取り組んでいます。しかし、重要なのは、これはおそらく20年かかる旅だということを忘れないことです。誰もが参加するでしょう。私たちのアーキテクチャは、アクセラレーテッドコンピューティングとAIの世界で必要なことを何でもできるように、エンドツーエンドのスケーリングアプローチを可能にします。そして私たちは、インフラストラクチャだけでなくソフトウェアでも顧客を支援するための非常に有力な候補です。
ティム・アーキュリ
ありがとうございます。それで、キャッシュについてお聞きしたいのですが、実は昨夜このことについて話し合いました。過去 4 四半期で約 560 億ドルのキャッシュフローを生み出しました。25 暦年には約 1,200 億ドルを生み出すと聞いています。年間約 500 億ドルの自社株買いをすると仮定しても、来年末には 1,000 億ドルのキャッシュが残り、2026 年末には 2,000 億ドルのキャッシュが残る可能性があります。これは明らかに莫大な数字で、1,000 億ドルのキャッシュがあった Apple でさえ、最終的にはその額を減らしました。キャッシュをどう使うつもりですか?
コレット・クレス
現金に関する当社の取り組みと現金の使用は、どの企業にとっても最も重要な事項の 1 つです。当社は、戦略とニーズを通じて物事を手助けしてくれる優秀な人材と資金を費やしています。まず検討すべきことは、イノベーションと、当社が行っている拡大に向けたあらゆる支援に必要な現金がいくらかということです。これが最初の部分になります。しかし、当社は継続しており、イノベーションと、R&D で行っているすべてのことが、その重要な部分になることを知っています。
今、私たちは企業から学んだことの両方からそれを実行できます。また、M&A の形で優秀なチームを招き入れるという私たちの仕事の観点からもそれを考えることができます。これは私たちにとって素晴らしい機会であり、私たちはその分野でも引き続き取り組んでいきます。そして、それは AI の新しい分野に追加して重点的に取り組みたい新しいタイプのビジネス モデルについて考えることにつながります。
そして、私たちができるサポートは、ソフトウェアの構築だけではなく、他の企業向けの完全なシステムの構築であり、私たちはそれに投資します。こうした種類の投資を決定した後、私たちの仕事は、株主への還元という点において常にそうであり、それに対する私たちの焦点は、自社株買いと配当の組み合わせであり、皆さんはこれを引き続き目にすることになるでしょうし、これを注意深く見守ることになるでしょう。
私たちは余剰現金を好みません。ですから、これを注意深く監視し、次の四半期もそれを続けるつもりです。
ティム・アーキュリ
素晴らしいですね。ありがとうございます。粗利益について少しお話ししましたが、ブラックウェルの業績が拡大するにつれて、粗利益は来年の第 1 四半期に低下するとおっしゃっていました。70 パーセント台前半まで上昇し、その後、電話会議では 71 パーセントから 72.5 パーセントまで上昇すると説明されました。しかし、その後は再び上昇し、年末には 70 パーセント台半ばまで上昇します。
この点について、どの程度自信があるのかお話しいただけますか。その後に Rubin が登場しますが、Rubin が成長し始めると、粗利益率は再び圧迫されるだろうと考える人もいます。では、長期的に 70 台半ばを維持できるという自信についてお話しいただけますか。
コレット・クレス
わかりました。Blackwell は、さまざまな構成の点でユニークです。この四半期だけでも、市場に投入されるさまざまなバージョンを準備しています。出荷するのは 1 つのバージョンだけではありません。複数のバージョンが出荷される予定です。そのため、現時点での出荷量は非常に少ないです。
年間を通じてこれを拡大し続けていくと、当社が保有するさまざまなシステム構成の拡大に着手すれば、粗利益率を改善できるようになります。しかし、今後の展望と Vera Rubin について考えると、まだ少し先の話です。TCO や私たちが行うべきことに関して、まだ分析を実行する必要があります。
ですから、私たちが何を見ているかという点については、もう少し後に延ばすことにします。しかし、ブラックウェルと私たちが見ているものに関して言えば、私たちは今、ユニークな立場にいると言えます。
ティム・アーキュリ
では、どのようにして粗利益をこれほどまでに引き上げることができたのでしょうか。Hopper が発売された当初、粗利益は 60 代半ばだったと記憶しています。そして今、70 代半ばにまで達しようとしています。では、どのようにして粗利益をこれほどまでに引き上げたのでしょうか。
コレット・クレス
わかりました。お客様に提供した価値を判断する際には、さまざまな要素が関係します。パフォーマンスだけではありません。チップのパフォーマンスだけではありません。エンドツーエンドのソリューションと、お客様が決定できる最低の TCO を見つけるために何ができるかが重要です。それが、どのように市場に参入し、その製品の特定の価格を使用するかを決定するのに役立ちます。
この TCO 値は、基本的にエンドツーエンド全体を見るものです。ソフトウェアをどのように完成させるか? データセンターのアーキテクチャ全体をどのように完成させるか? 他のチームが必要か? さまざまなコンポーネントだけを見るのではありません。また、コンポーネントとコストプラスモデルという状況でもありません。
そのため、強力なパフォーマンス、強力な効率、そして最良の TCO により、システム内部に提供し、システムの寿命全体にわたってサポートするすべてのソフトウェアを組み込んだ完全な TCO が可能になります。
ティム・アーキュリ
分かりました。ネットワーク事業についてお話しいただけますか。多くの質問を受けています。前四半期は減少しました。増加すると予想されていました。また、InfiniBand から Ethernet に移行したことで、ネットワーク事業の立場が少し弱まったと考える人もいます。ネットワーク事業についてお話しいただけますか。コンピューティング事業と並行して成長していくと予想されますか。
コレット・クレス
当社のネットワーク事業は、データセンター規模に移行したときに追加された最も重要な事業の 1 つです。データや作業がデータ処理で行われている時間だけでなく、コンピューティングや GPU の使用についても熟考する能力は、そのデータセンター内でのネットワークの位置づけを考える上で不可欠です。
弊社には 2 つの異なる製品があります。InfiniBand です。InfiniBand は、数十年にわたって世界最大のスーパーコンピューターの多くで大きな成功を収めてきました。これは、データのサイズ、通過するデータの速度の点で非常に重要でした。そこで発生するトラフィックをどう処理するかという点では、異なる見解がありました。
イーサネットは、多くの企業にとって標準となっている優れた構成です。しかし、イーサネットは AI 向けに構築されたわけではありません。イーサネットは、データセンター内のネットワーク用に構築されただけです。そこで、私たちは、インター InfiniBand の優れた点のいくつかを取り入れて、AI 向けのイーサネットを作成しています。これにより、お客様は、両方の選択肢を持つようになりました。InfiniBand で完全なエンドツーエンド システムを構築でき、イーサネットで何をするかという点では、お客様が選択できるようになりました。
これらは両方とも、当社にとって成長の選択肢です。この四半期に関しては、タイミングの問題がありました。しかし、現在、ネットワークの継続という点で、皆さんが目にするものは確実に成長します。コンピューティングとネットワークに関する当社の設計により、当社のネットワークを使用して構築されている最も強力なクラスターがいくつかあります。当社が行った接続は、Mellanox の買収以来、当社が行ってきた作業の非常に重要な部分でした。人々は、当社のネットワークの使用と、それがシステム全体にどのように役立つかを理解し、理解しています。
ティム・アーキュリ
素晴らしいですね。これらの大規模言語モデルのスケーリングについてお話しいただけますか? Google と OpenAI がこれらの大規模モデルからより良い結果を得るのに苦労しているという記事がいくつかありました。しかし一方で、Meta は収益報告の電話会議に出席し、Anthropic などの他の企業もスケーリングは順調に進んでいると発言していました。
それで、その点についてお話しいただけますか？トレーニング後には微妙な違いがあることは承知していますし、もちろん、OpenAI の新しいモデルのいくつかではテスト時間の違いもあります。スケーリングの問題は投資家が考慮すべきことでしょうか？
コレット・クレス
構築中のクラスターのサイズや、多くのお客様が実行しようとしている作業を見ると、特にトレーニングに関して見られるスケーリング法則は、依然として存在しています。この次世代の Blackwell では、より大規模なモデルや複雑なモデルが見られるようになると思います。つまり、強化学習によってトレーニング後の段階が復活し、人間の部分を真に求め、合成データを使用してモデルを微調整する段階が復活するということです。
言い換えれば、トレーニングは決して終わることはなく、多くの作業が継続されるということです。しかし、推論段階に重点を置いた新しいスキル法も制定されています。思い出していただければ、当社は現在存在する最大の推論プロバイダーです。他のどのタイプの構成よりも推論を最も多く行っています。なぜでしょうか? 非常に難しいからです。
スケーリングから私たちが見ているのは、ジェネレーティブ AI の始まりから現在に至るまでの重要な部分であり、深い思考のための推論と、それを行うための時間という点に焦点を当てる人が増えています。そのためには、追加のコンピューティングと、推論要素の点で費やす時間に対して最小限のレイテンシで実行できるコンピューティングが必要になります。
したがって、スケーリングの法則は依然として重要であり、今後数十年にわたってさらに多くの新しい法則が形成されると考えられます。
ティム・アーキュリ
需要の新たな側面、つまり政府支援プロジェクト、いわゆるソブリンについてお話しされていますね。今年は、こうしたプロジェクト全体で 2 桁の 10 億ドルを投資する予定だとおっしゃっていましたが、その需要がどこから来ているのか、いくつか例を挙げてお話しいただけますか。また、需要がどの程度の規模になる可能性があるかについてもお聞かせください。私も、中東のこうした大規模プロジェクトのいくつかは、最終的には米国の BSP と同規模になる可能性があると考えています。
これは非常に大きな需要になる可能性があるのですが、それを実現するにはどうしたらよいと考えていますか?
コレット・クレス
主権 AI は、生成 AI に関して私たちが目にしてきたものの中で、非常に興味深い部分です。簡単に言うと、ここで彼らが目にしたものは、米国で見られたものであり、すべての国、すべての国が、私が望むときにそれを見る義務があるのです。そして彼らは、自分たちの国を支えるために、自分たちの言語、自分たちの文化に基づいたモデル、基礎モデルを望んでいます。彼らは、今後数十年で AI がどうなるかの重要性を認識しています。
ですから、私たちが協力しているさまざまな国の数、あるいはあなたが注目した特定の地域での活動は、私たちが行っている AI の世界規模の取り組みの非常に大きな部分を占めています。これは米国西海岸だけではありません。世界中で行われています。すべてではなく、一部だけが政府の資金援助を受けています。彼らの多くは、アクセラレーテッド コンピューティングをサポートでき、一連の原則を持つ新しいタイプの地域 CSP を立ち上げる大企業に注目しています。そして、私たちは企業をサポートするための基礎モデルを彼らと構築することになると思います。
日本で何が起こっているかについては、すでにお話ししました。ソフトバンクが、非常に大規模なモデルの構築に非常に興味を持っている分野があります。インドでは、多くの CSP が、何を取り入れるかという観点から取り組んでいます。
これはヨーロッパまで広がり、北欧諸国にも広がり、アジア太平洋地域でも非常に重要な部分を占めています。したがって、各国のスーパーコンピューティングに関して私たちが目にした次世代について考えたい部分は、今後も続くでしょう。GDP から、AI と主権 AI のために何をする必要があるかがわかります。
ティム・アーキュリ
素晴らしいですね。ソフトウェア事業について少しお話しいただけますか? 今年、年間 20 億ドルのランレートを超えるとおっしゃっていましたね。ざっと計算して、GPU の改造で直接収益を上げている GPU がいくつあるか計算してみます。
アタッチ率は 10% 程度で、おおよそ 10% を直接ライセンスしています。アタッチ率についてどのようにお考えか、また GPU のソフトウェアを直接ライセンスすることでどの程度成功しているかについてお話しいただけますか?
コレット・クレス
はい。当社のソフトウェア プラットフォームは、当社の多くの企業や地域の CSP、将来の AI ファクトリー、当社が取り組んでいる AI 基盤の作業にとって不可欠です。なぜでしょうか。AI への移行方法と開始方法を理解するための最初のステップとして、当社には何千もの異なるアプリケーション、CUDA ライブラリ、各業界向けに実行した CUDA 作業、およびそれらの業界内の各主要ワークロードがあります。
企業は、自社で行う必要がある作業だけでなく、データセンターのインフラストラクチャをサポートするために必要な作業のためにも、その部分を必要とします。そのため、私たちは企業のためにその部分を構築しており、多くの場合、企業の顧客は、行っている作業にその部分を必要とするため、そのソフトウェアに非常に強い愛着を持っています。
非常に大規模なソフトウェア チームを持つ企業と、私が数十年にわたって自力で構築してきた企業は異なります。しかし、ご想像のとおり、ソフトウェア エンジニア全員を育成する時代に戻ることはできません。そのため、私たちは多くの企業を支援するために非常に質の高い時間を費やしてきました。
企業と連携して、どのようなコンピューティングを行うかを選択するところから、モデルの作成、さまざまなアプリの設定、全体的な推論のすべてまで、最初から最後までサポートします。つまり、そこに入っているのは単なるソフトウェアだけではありません。そのソフトウェアには、企業からの真のサポートとサービスも付属しています。
ティム・アーキュリ
それで、私たちはエンタープライズ市場だけを見ましたが、あなたのアタッチ率は実際にはそれよりもかなり高くなる可能性がありますか?
コレット・クレス
そうですね。その通りです。
ティム・アーキュリ
分かりました。素晴らしいですね。私たちはみんなデータセンターについて話しますが、エッジでの推論はもっと大きなテーマになるでしょう。エッジでのあなたの立場についてお話しいただけますか？ PC には大きなインストール ベースがあります。これはあなたにとってかなり有利なはずですし、Omniverse もあります。ロボティクスは大きなテーマです。それでは、あなたの提供しているものについて、またエッジでのプレーヤーとしてどのように考えればよいかについてお話しいただけますか？
コレット・クレス
はい、エッジ コンピューティング、エッジ AI は、非常によく似ており、おそらく連携して存在し続けるでしょう。つまり、工場が存在するということです。データセンターでデータを収集し、そのデータを多くのエッジ アプライアンス、つまり自動車に提供する人々が見られるようになるでしょう。自動運転の自動車です。
次の段階は、おそらくロボット工学に関するものになるでしょう。データと学習がデータセンターで行われ、さまざまなデバイスの内部で行われる非常に大きな産業には、それらをサポートする当社の機能が含まれています。これは重要な産業です。私たちは、そのデータセンター部分が非常に大きな市場であり、今後の展開にとって非常に重要であることを知っています。
これには、私たちが開発中の新しいソフトウェアも組み込まれています。ご存知のように、私たちは来年後半に市場投入される自動運転車用のソフトウェアを開発中です。さらに、ロボット工学の内部で、またそのソフトウェアから実行できる作業、そして Omniverse を使って多くの工場で実行できる作業、そしてそれがどのように機能するかの全体的なレイアウトについて考えてみましょう。
したがって、これらは標準的なデータセンター以外でも非常に重点を置くべき分野です。ただし、エッジ コンピューティングも重要な要素になります。
ティム・アーキュリ
素晴らしいですね。推論とトレーニングについて少しお話しいただけますか? 推論は収益の約 40% を占めるとおっしゃっていますが、それがどのように進化していくとお考えかお話しいただけますか?
コレット・クレス
約 40% です。私たちは、彼らが行っていることのユースケースについて考え始めると伝えました。推論に関しては多くの時間が費やされていることがわかります。これは、まだ市場に投入するには最悪の状態にある多くの生成 AI アプリケーションが見られるようになる前のことです。
推奨エンジンは、今日の推論において非常に重要な部分を占めています。したがって、今後 40% の成長が見られるようになるでしょう。しかし、先ほどお話ししたように、推論に関しては当社は依然として最大手です。Blackwell アーキテクチャ、特に GB200、NVL について考えると、これは重要な構成であり、当社の現在の世代と比較して推論パフォーマンスが 30 倍向上しています。
これは多くのお客様にとって非常に重要な部分です。お客様はおそらく、基礎モデルに必要なものを最初に構築する際に使用するでしょう。しかし、Blackwell で推論を進める上で重要な部分は、多くのお客様から非常に好評を博しています。
ティム・アーキュリ
素晴らしいですね。それから、ブラックウェルの制約についてお話ししましたが、おそらく25年半ばには緩和され始めると思われます。その制約についてお話しいただけますか？25年半ばには緩和され始めると考えてよろしいでしょうか？
コレット・クレス
Blackwell の製造と設計、そして構成に関するお客様との協力について考えてみると、需要の面での Cane's Fast and Furious の需要は並外れています。そして、私たちは非常に多くのパートナーと協力しています。私たちは毎日サプライヤーと話し合って、彼らを支援しています。ですから、現時点では、目の前の需要に見合った十分な Blackwell を製造するために規模を拡大する必要があります。
そして、おそらく新会計年度の最初の部分では、供給が制限されることになると思います。制限があるのはどこでしょうか? 構成によって異なりますが、課題の一部は、共同スペースの面での作業です。さまざまな構成に関して行う必要がある作業と、ネットワークの切り替えに関して行うすべての作業は、正しく行う必要があります。構成によっては、供給が制限される可能性があります。しかし、今四半期に関しては、すぐに Blackwell を出荷する予定です。Blackwell は順調に進んでおり、今四半期に複数の構成をお客様に提供できることを非常に楽しみにしています。
ティム・アーキュリ
まあ、来年は間違いなく素晴らしい年になると思います。とにかく、コレット、ありがとう。感謝されていると信じています。
コレット・クレス
はい。わかりました。じゃあね。
NVIDIA Corporation ( NASDAQ: NVDA )
UBS グローバル テクノロジー カンファレンス コール
2024 年 12 月 3 日 午前 9 時 35 分 (東部標準時)
企業参加者
コレット・クレス - エグゼクティブ・バイスプレジデント兼最高財務責任者
電話会議参加者
ティム・アーキュリ - UBS
ティム・アーキュリ
おはようございます。ありがとうございます。ティム・アーキュリです。NVIDIA にお越しいただき、ありがとうございます。コレットさんもいらっしゃいます。コレットさん、お時間をいただきありがとうございます。それでは、これから始めましょう。コレットさん、この 2 年間は素晴らしいものでした。コレットさんは今も急速に成長しています。ユースケースのいくつかについて、どのように進化してきたかお話しいただけますか。企業では AI を幅広く採用しています。クラウド、消費者、インターネット、企業の観点から、需要の状況はどのように進化してきましたか。また、非常にエキサイティングなユースケースについてもお話しいただけますか。
コレット・クレス
わかりました。まずは私が読まなければならない声明から始めましょう。念のため、このプレゼンテーションには将来予想に関する記述が含まれており、投資家は、当社の事業が直面するリスクや不確実性に関する情報を得るために、SEC に提出した当社の報告書を読むことをお勧めします。
さて、皆さんにお会いできて本当にうれしく思います。また、私たちをお迎えしてくださり、本当にありがとうございます。私たちが見てきたことについて少しお話しさせてください。ここ数四半期だけでも、確かに非常に速い道のりでした。しかし、私たちが行っているビジネスに関しては、30年の歴史があることを忘れないでください。しかし、私たちは確かに非常に重要な段階にあります。
私たちが今いる段階と、私たちが目にしているものについて考えると、私たちの多くが 20 ～ 30 年以上にわたって使用し、目にしてきたコンピューティング プラットフォームは、今後数十年にわたって変革を遂げることになるだろうと確信しています。つまり、汎用コンピューティングやアクセラレーテッド コンピューティングへの移行など、既存のコンピューティング プラットフォームに集中する人々がいるということです。
しかし、アクセラレーテッド コンピューティングに焦点を合わせるだけでなく、AI と Generative AI に焦点を合わせるという新たな要素も追加されました。もちろん、過去数四半期にわたって見てきた新しいユース ケースは、モデルのサイズです。思い出していただければ、Generative AI が登場する直前に、大規模な言語モデルについて話していました。
そして、消費者向けインターネット企業、レコメンデーション エンジン、モデル サイズに関する作業の多くに彼らが関わっていたことの重要性は、ますます大きくなっています。現在、基礎モデルに関する作業は、行われている作業の点で非常に重要なものです。しかし、さまざまなタイプの基礎モデルやマルチモーダル タイプのモデルの構築に重点が置かれているため、これらのモデルのスケーリングも見られます。
この移行の次の段階も、推論段階に重点が置かれています。大規模な言語モデルを開発した後、推論モデルをサポートするシステムの種類に関して、作業がますます増えていきます。当社のさまざまなタイプの顧客はすべてユニークです。当社はスタートアップから研究まであらゆる企業と連携しています。CSP は、それを必要とする最終企業向けに高速コンピューティングを立ち上げている最も重要な企業の一部です。当社は消費者向けインターネット企業と連携していますが、さらに重要なのは、この取り組みをサポートするという点で世界的に取り組んでいることです。
スピードと、これから何が起こるかという理解という点では、これまで見たことのないものでした。これが、今日私たちが目にしているものの一部です。
ティム・アーキュリ
私たちは皆、最終的には過剰な生産能力を構築することになるのではないかと心配しています。そして、あなたの見解は、私たちはまだそれには程遠いということだと思います。では、どの程度の見通しを持っているのか、また、供給可能な量に対する需要の状況についてお話しいただけますか。
コレット・クレス
はい、過去の四半期と当社のスケーリングを見ると、スケーリングに関する当社の第一の目標は、すべてのパートナー、下流のお客様と協力すること、そして供給をもたらすことです。いいえ、現時点では減速が見られるような状況ではありません。しかし、モデルのサイズ、推論の複雑さにより、需要が引き続き大きく高まっていることが現在確認されており、当社は次のアーキテクチャである Blackwell の準備を進めています。
そして、今四半期に登場予定の Blackwell に関して、現在私たちが見ているのは、おそらく供給制約であり、今後数四半期にわたって来期まで続くことになるでしょう。ですから、減速は見られません。特に、今後登場する新しいアーキテクチャに対する需要と関心は引き続き非常に高いと見ています。
ティム・アーキュリ
そうですね、その点についてですが、素晴らしい四半期でしたね。1月にBlackwellを出荷し、3か月前に予想していたよりも多くのBlackwellを出荷しています。それと同時に、サプライチェーンに多くの混乱が起きていると聞いています。多くの記事が書かれ、そのようなことが書かれています。Blackwellが以前の製品サイクルとどのように違うのか、お話しいただけますか?
コレット・クレス
はい、当社の Blackwell アーキテクチャはユニークです。しかし、ここで行っているのはデータセンター規模での構築です。誤解しないでください。当社は長年、プラットフォームの観点で取り組んできました。チップ レベルやエンドツーエンドのスケールだけではありません。しかし、当社の Hopper アーキテクチャを見ると、当社の Hopper アーキテクチャはラック スケールと当社が行ってきた作業向けであることがわかります。
基本的に、Blackwell アーキテクチャでご覧になっているものの一部は、当社のサプライ チェーン内で完全に構築されます。準備はできましたか? 立ち上げます。取り外します。取り付けたら、一緒に立ち上げます。そして、ライフサイクルのどの段階にいるかに応じて、お客様により多くの選択肢を提供します。
つまり、データセンターは複雑であり、最も効率的にするためにさまざまなことが行われています。それぞれがさまざまな段階にあります。そのため、私たちが行っているさまざまなオプションから選択できます。つまり、液体冷却が可能です。空冷も継続できます。ARM CPU を組み込むこともできますが、必要に応じて x86 も組み込むことができます。
当社には、InfiniBand や Ethernet など、さまざまなネットワーク オプションがあり、他にもさまざまなスイッチ オプションがあります。その決定はお客様次第であり、さまざまな構成があります。今四半期の Blackwell の状況を考えると、チップに関してはすべて完了しています。
チップは順調です。チップと私たちが行った作業は順調に進んでいます。現在、私たちはさまざまなお客様のために構成を立ち上げています。皆さんはインターネットで写真を見るでしょう。最初の構成を立ち上げ、データセンター全体とさまざまなラックをすべて組み立てる準備に興奮している、幸せそうな顔の写真です。これが私たちの現在の状況です。
ティム・アーキュリ
素晴らしいですね。製品のリリースペースはさまざまで、B100、B200 があります。CD 付きラックもあります。そして、約 6 か月後に Blackwell Ultra が登場します。製品がこんなに早くリリースされるため、お客様が待つリスクはありますか?
コレット・クレス
いいえ、データセンターの設計に何が必要かを考えると、計画が必要です。少なくとも過去 5 年から 10 年の間に、さまざまなお客様とより多くの作業を行うようになりました。お客様は 6 か月ごとに計画を立てています。ここには何があるか? 何を構築するのか? プロジェクトで作業している時点でコンピューティングの準備を整える必要があります。そのため、まだ供給が不足しているものがあることを考慮に入れて、当社は引き続きお客様に素晴らしい構成の Hopper 200 を提供しています。これは、HGX システムで行っている作業の一部を開始する機会であり、GPU への需要が非常に高まっているため、まだ GPU に触れていません。人々は当社と協力して、データセンターの構築方法を理解しています。データセンターはすでに調達されていることがよくあります。彼らは、その中に何を配置する必要があるかを知っているだけです。そのため、2 つのアーキテクチャーがあります。
さらに、ご存知のとおり、当社は今後 Vera Rubin を実施します。これについても、お客様と話し合うことになりますが、まずは潜在的なサービスについてお話しします。今後何が必要になる可能性があるか、どのように考えていくお手伝いができるでしょうか。
ティム・アーキュリ
しかし、これは、顧客が待たずにうまくいった H100 や H200 と少し似ていると思います。つまり、Vera 製品の直後に製品が発売されたときに、顧客が待たなかったという証拠はあるということですか?
コレット・クレス
顧客は待ち望んでいます。待つというのは強い言葉です。顧客は毎日電話をかけてきて、いつコンピューティングが見られるのか尋ねており、私たちはその新しい供給のために必死に取り組んでいます。しかし、重要なのは、これはおそらく20年かかる旅だということを忘れないことです。誰もが参加するでしょう。私たちのアーキテクチャは、アクセラレーテッドコンピューティングとAIの世界で必要なことを何でもできるように、エンドツーエンドのスケーリングアプローチを可能にします。そして私たちは、インフラストラクチャだけでなくソフトウェアでも顧客を支援するための非常に有力な候補です。
ティム・アーキュリ
ありがとうございます。それで、キャッシュについてお聞きしたいのですが、実は昨夜このことについて話し合いました。過去 4 四半期で約 560 億ドルのキャッシュフローを生み出しました。25 暦年には約 1,200 億ドルを生み出すと聞いています。年間約 500 億ドルの自社株買いをすると仮定しても、来年末には 1,000 億ドルのキャッシュが残り、2026 年末には 2,000 億ドルのキャッシュが残る可能性があります。これは明らかに莫大な数字で、1,000 億ドルのキャッシュがあった Apple でさえ、最終的にはその額を減らしました。キャッシュをどう使うつもりですか?
コレット・クレス
現金に関する当社の取り組みと現金の使用は、どの企業にとっても最も重要な事項の 1 つです。当社は、戦略とニーズを通じて物事を手助けしてくれる優秀な人材と資金を費やしています。まず検討すべきことは、イノベーションと、当社が行っている拡大に向けたあらゆる支援に必要な現金がいくらかということです。これが最初の部分になります。しかし、当社は継続しており、イノベーションと、R&D で行っているすべてのことが、その重要な部分になることを知っています。
今、私たちは企業から学んだことの両方からそれを実行できます。また、M&A の形で優秀なチームを招き入れるという私たちの仕事の観点からもそれを考えることができます。これは私たちにとって素晴らしい機会であり、私たちはその分野でも引き続き取り組んでいきます。そして、それは AI の新しい分野に追加して重点的に取り組みたい新しいタイプのビジネス モデルについて考えることにつながります。
そして、私たちができるサポートは、ソフトウェアの構築だけではなく、他の企業向けの完全なシステムの構築であり、私たちはそれに投資します。こうした種類の投資を決定した後、私たちの仕事は、株主への還元という点において常にそうであり、それに対する私たちの焦点は、自社株買いと配当の組み合わせであり、皆さんはこれを引き続き目にすることになるでしょうし、これを注意深く見守ることになるでしょう。
私たちは余剰現金を好みません。ですから、これを注意深く監視し、次の四半期もそれを続けるつもりです。
ティム・アーキュリ
素晴らしいですね。ありがとうございます。粗利益について少しお話ししましたが、ブラックウェルの業績が拡大するにつれて、粗利益は来年の第 1 四半期に低下するとおっしゃっていました。70 パーセント台前半まで上昇し、その後、電話会議では 71 パーセントから 72.5 パーセントまで上昇すると説明されました。しかし、その後は再び上昇し、年末には 70 パーセント台半ばまで上昇します。
この点について、どの程度自信があるのかお話しいただけますか。その後に Rubin が登場しますが、Rubin が成長し始めると、粗利益率は再び圧迫されるだろうと考える人もいます。では、長期的に 70 台半ばを維持できるという自信についてお話しいただけますか。
コレット・クレス
わかりました。Blackwell は、さまざまな構成の点でユニークです。この四半期だけでも、市場に投入されるさまざまなバージョンを準備しています。出荷するのは 1 つのバージョンだけではありません。複数のバージョンが出荷される予定です。そのため、現時点での出荷量は非常に少ないです。
年間を通じてこれを拡大し続けていくと、当社が保有するさまざまなシステム構成の拡大に着手すれば、粗利益率を改善できるようになります。しかし、今後の展望と Vera Rubin について考えると、まだ少し先の話です。TCO や私たちが行うべきことに関して、まだ分析を実行する必要があります。
ですから、私たちが何を見ているかという点については、もう少し後に延ばすことにします。しかし、ブラックウェルと私たちが見ているものに関して言えば、私たちは今、ユニークな立場にいると言えます。
ティム・アーキュリ
では、どのようにして粗利益をこれほどまでに引き上げることができたのでしょうか。Hopper が発売された当初、粗利益は 60 代半ばだったと記憶しています。そして今、70 代半ばにまで達しようとしています。では、どのようにして粗利益をこれほどまでに引き上げたのでしょうか。
コレット・クレス
わかりました。お客様に提供した価値を判断する際には、さまざまな要素が関係します。パフォーマンスだけではありません。チップのパフォーマンスだけではありません。エンドツーエンドのソリューションと、お客様が決定できる最低の TCO を見つけるために何ができるかが重要です。それが、どのように市場に参入し、その製品の特定の価格を使用するかを決定するのに役立ちます。
この TCO 値は、基本的にエンドツーエンド全体を見るものです。ソフトウェアをどのように完成させるか? データセンターのアーキテクチャ全体をどのように完成させるか? 他のチームが必要か? さまざまなコンポーネントだけを見るのではありません。また、コンポーネントとコストプラスモデルという状況でもありません。
そのため、強力なパフォーマンス、強力な効率、そして最良の TCO により、システム内部に提供し、システムの寿命全体にわたってサポートするすべてのソフトウェアを組み込んだ完全な TCO が可能になります。
ティム・アーキュリ
分かりました。ネットワーク事業についてお話しいただけますか。多くの質問を受けています。前四半期は減少しました。増加すると予想されていました。また、InfiniBand から Ethernet に移行したことで、ネットワーク事業の立場が少し弱まったと考える人もいます。ネットワーク事業についてお話しいただけますか。コンピューティング事業と並行して成長していくと予想されますか。
コレット・クレス
当社のネットワーク事業は、データセンター規模に移行したときに追加された最も重要な事業の 1 つです。データや作業がデータ処理で行われている時間だけでなく、コンピューティングや GPU の使用についても熟考する能力は、そのデータセンター内でのネットワークの位置づけを考える上で不可欠です。
弊社には 2 つの異なる製品があります。InfiniBand です。InfiniBand は、数十年にわたって世界最大のスーパーコンピューターの多くで大きな成功を収めてきました。これは、データのサイズ、通過するデータの速度の点で非常に重要でした。そこで発生するトラフィックをどう処理するかという点では、異なる見解がありました。
イーサネットは、多くの企業にとって標準となっている優れた構成です。しかし、イーサネットは AI 向けに構築されたわけではありません。イーサネットは、データセンター内のネットワーク用に構築されただけです。そこで、私たちは、インター InfiniBand の優れた点のいくつかを取り入れて、AI 向けのイーサネットを作成しています。これにより、お客様は、両方の選択肢を持つようになりました。InfiniBand で完全なエンドツーエンド システムを構築でき、イーサネットで何をするかという点では、お客様が選択できるようになりました。
これらは両方とも、当社にとって成長の選択肢です。この四半期に関しては、タイミングの問題がありました。しかし、現在、ネットワークの継続という点で、皆さんが目にするものは確実に成長します。コンピューティングとネットワークに関する当社の設計により、当社のネットワークを使用して構築されている最も強力なクラスターがいくつかあります。当社が行った接続は、Mellanox の買収以来、当社が行ってきた作業の非常に重要な部分でした。人々は、当社のネットワークの使用と、それがシステム全体にどのように役立つかを理解し、理解しています。
ティム・アーキュリ
素晴らしいですね。これらの大規模言語モデルのスケーリングについてお話しいただけますか? Google と OpenAI がこれらの大規模モデルからより良い結果を得るのに苦労しているという記事がいくつかありました。しかし一方で、Meta は収益報告の電話会議に出席し、Anthropic などの他の企業もスケーリングは順調に進んでいると発言していました。
それで、その点についてお話しいただけますか？トレーニング後には微妙な違いがあることは承知していますし、もちろん、OpenAI の新しいモデルのいくつかではテスト時間の違いもあります。スケーリングの問題は投資家が考慮すべきことでしょうか？
コレット・クレス
構築中のクラスターのサイズや、多くのお客様が実行しようとしている作業を見ると、特にトレーニングに関して見られるスケーリング法則は、依然として存在しています。この次世代の Blackwell では、より大規模なモデルや複雑なモデルが見られるようになると思います。つまり、強化学習によってトレーニング後の段階が復活し、人間の部分を真に求め、合成データを使用してモデルを微調整する段階が復活するということです。
言い換えれば、トレーニングは決して終わることはなく、多くの作業が継続されるということです。しかし、推論段階に重点を置いた新しいスキル法も制定されています。思い出していただければ、当社は現在存在する最大の推論プロバイダーです。他のどのタイプの構成よりも推論を最も多く行っています。なぜでしょうか? 非常に難しいからです。
スケーリングから私たちが見ているのは、ジェネレーティブ AI の始まりから現在に至るまでの重要な部分であり、深い思考のための推論と、それを行うための時間という点に焦点を当てる人が増えています。そのためには、追加のコンピューティングと、推論要素の点で費やす時間に対して最小限のレイテンシで実行できるコンピューティングが必要になります。
したがって、スケーリングの法則は依然として重要であり、今後数十年にわたってさらに多くの新しい法則が形成されると考えられます。
ティム・アーキュリ
需要の新たな側面、つまり政府支援プロジェクト、いわゆるソブリンについてお話しされていますね。今年は、こうしたプロジェクト全体で 2 桁の 10 億ドルを投資する予定だとおっしゃっていましたが、その需要がどこから来ているのか、いくつか例を挙げてお話しいただけますか。また、需要がどの程度の規模になる可能性があるかについてもお聞かせください。私も、中東のこうした大規模プロジェクトのいくつかは、最終的には米国の BSP と同規模になる可能性があると考えています。
これは非常に大きな需要になる可能性があるのですが、それを実現するにはどうしたらよいと考えていますか?
コレット・クレス
主権 AI は、生成 AI に関して私たちが目にしてきたものの中で、非常に興味深い部分です。簡単に言うと、ここで彼らが目にしたものは、米国で見られたものであり、すべての国、すべての国が、私が望むときにそれを見る義務があるのです。そして彼らは、自分たちの国を支えるために、自分たちの言語、自分たちの文化に基づいたモデル、基礎モデルを望んでいます。彼らは、今後数十年で AI がどうなるかの重要性を認識しています。
ですから、私たちが協力しているさまざまな国の数、あるいはあなたが注目した特定の地域での活動は、私たちが行っている AI の世界規模の取り組みの非常に大きな部分を占めています。これは米国西海岸だけではありません。世界中で行われています。すべてではなく、一部だけが政府の資金援助を受けています。彼らの多くは、アクセラレーテッド コンピューティングをサポートでき、一連の原則を持つ新しいタイプの地域 CSP を立ち上げる大企業に注目しています。そして、私たちは企業をサポートするための基礎モデルを彼らと構築することになると思います。
日本で何が起こっているかについては、すでにお話ししました。ソフトバンクが、非常に大規模なモデルの構築に非常に興味を持っている分野があります。インドでは、多くの CSP が、何を取り入れるかという観点から取り組んでいます。
これはヨーロッパまで広がり、北欧諸国にも広がり、アジア太平洋地域でも非常に重要な部分を占めています。したがって、各国のスーパーコンピューティングに関して私たちが目にした次世代について考えたい部分は、今後も続くでしょう。GDP から、AI と主権 AI のために何をする必要があるかがわかります。
ティム・アーキュリ
素晴らしいですね。ソフトウェア事業について少しお話しいただけますか? 今年、年間 20 億ドルのランレートを超えるとおっしゃっていましたね。ざっと計算して、GPU の改造で直接収益を上げている GPU がいくつあるか計算してみます。
アタッチ率は 10% 程度で、おおよそ 10% を直接ライセンスしています。アタッチ率についてどのようにお考えか、また GPU のソフトウェアを直接ライセンスすることでどの程度成功しているかについてお話しいただけますか?
コレット・クレス
はい。当社のソフトウェア プラットフォームは、当社の多くの企業や地域の CSP、将来の AI ファクトリー、当社が取り組んでいる AI 基盤の作業にとって不可欠です。なぜでしょうか。AI への移行方法と開始方法を理解するための最初のステップとして、当社には何千もの異なるアプリケーション、CUDA ライブラリ、各業界向けに実行した CUDA 作業、およびそれらの業界内の各主要ワークロードがあります。
企業は、自社で行う必要がある作業だけでなく、データセンターのインフラストラクチャをサポートするために必要な作業のためにも、その部分を必要とします。そのため、私たちは企業のためにその部分を構築しており、多くの場合、企業の顧客は、行っている作業にその部分を必要とするため、そのソフトウェアに非常に強い愛着を持っています。
非常に大規模なソフトウェア チームを持つ企業と、私が数十年にわたって自力で構築してきた企業は異なります。しかし、ご想像のとおり、ソフトウェア エンジニア全員を育成する時代に戻ることはできません。そのため、私たちは多くの企業を支援するために非常に質の高い時間を費やしてきました。
企業と連携して、どのようなコンピューティングを行うかを選択するところから、モデルの作成、さまざまなアプリの設定、全体的な推論のすべてまで、最初から最後までサポートします。つまり、そこに入っているのは単なるソフトウェアだけではありません。そのソフトウェアには、企業からの真のサポートとサービスも付属しています。
ティム・アーキュリ
それで、私たちはエンタープライズ市場だけを見ましたが、あなたのアタッチ率は実際にはそれよりもかなり高くなる可能性がありますか?
コレット・クレス
そうですね。その通りです。
ティム・アーキュリ
分かりました。素晴らしいですね。私たちはみんなデータセンターについて話しますが、エッジでの推論はもっと大きなテーマになるでしょう。エッジでのあなたの立場についてお話しいただけますか？ PC には大きなインストール ベースがあります。これはあなたにとってかなり有利なはずですし、Omniverse もあります。ロボティクスは大きなテーマです。それでは、あなたの提供しているものについて、またエッジでのプレーヤーとしてどのように考えればよいかについてお話しいただけますか？
コレット・クレス
はい、エッジ コンピューティング、エッジ AI は、非常によく似ており、おそらく連携して存在し続けるでしょう。つまり、工場が存在するということです。データセンターでデータを収集し、そのデータを多くのエッジ アプライアンス、つまり自動車に提供する人々が見られるようになるでしょう。自動運転の自動車です。
次の段階は、おそらくロボット工学に関するものになるでしょう。データと学習がデータセンターで行われ、さまざまなデバイスの内部で行われる非常に大きな産業には、それらをサポートする当社の機能が含まれています。これは重要な産業です。私たちは、そのデータセンター部分が非常に大きな市場であり、今後の展開にとって非常に重要であることを知っています。
これには、私たちが開発中の新しいソフトウェアも組み込まれています。ご存知のように、私たちは来年後半に市場投入される自動運転車用のソフトウェアを開発中です。さらに、ロボット工学の内部で、またそのソフトウェアから実行できる作業、そして Omniverse を使って多くの工場で実行できる作業、そしてそれがどのように機能するかの全体的なレイアウトについて考えてみましょう。
したがって、これらは標準的なデータセンター以外でも非常に重点を置くべき分野です。ただし、エッジ コンピューティングも重要な要素になります。
ティム・アーキュリ
素晴らしいですね。推論とトレーニングについて少しお話しいただけますか? 推論は収益の約 40% を占めるとおっしゃっていますが、それがどのように進化していくとお考えかお話しいただけますか?
コレット・クレス
約 40% です。私たちは、彼らが行っていることのユースケースについて考え始めると伝えました。推論に関しては多くの時間が費やされていることがわかります。これは、まだ市場に投入するには最悪の状態にある多くの生成 AI アプリケーションが見られるようになる前のことです。
推奨エンジンは、今日の推論において非常に重要な部分を占めています。したがって、今後 40% の成長が見られるようになるでしょう。しかし、先ほどお話ししたように、推論に関しては当社は依然として最大手です。Blackwell アーキテクチャ、特に GB200、NVL について考えると、これは重要な構成であり、当社の現在の世代と比較して推論パフォーマンスが 30 倍向上しています。
これは多くのお客様にとって非常に重要な部分です。お客様はおそらく、基礎モデルに必要なものを最初に構築する際に使用するでしょう。しかし、Blackwell で推論を進める上で重要な部分は、多くのお客様から非常に好評を博しています。
ティム・アーキュリ
素晴らしいですね。それから、ブラックウェルの制約についてお話ししましたが、おそらく25年半ばには緩和され始めると思われます。その制約についてお話しいただけますか？25年半ばには緩和され始めると考えてよろしいでしょうか？
コレット・クレス
Blackwell の製造と設計、そして構成に関するお客様との協力について考えてみると、需要の面での Cane's Fast and Furious の需要は並外れています。そして、私たちは非常に多くのパートナーと協力しています。私たちは毎日サプライヤーと話し合って、彼らを支援しています。ですから、現時点では、目の前の需要に見合った十分な Blackwell を製造するために規模を拡大する必要があります。
そして、おそらく新会計年度の最初の部分では、供給が制限されることになると思います。制限があるのはどこでしょうか? 構成によって異なりますが、課題の一部は、共同スペースの面での作業です。さまざまな構成に関して行う必要がある作業と、ネットワークの切り替えに関して行うすべての作業は、正しく行う必要があります。構成によっては、供給が制限される可能性があります。しかし、今四半期に関しては、すぐに Blackwell を出荷する予定です。Blackwell は順調に進んでおり、今四半期に複数の構成をお客様に提供できることを非常に楽しみにしています。
ティム・アーキュリ
まあ、来年は間違いなく素晴らしい年になると思います。とにかく、コレット、ありがとう。感謝されていると信じています。
コレット・クレス
はい。わかりました。じゃあね。
免責事項：このコミュニティは、Moomoo Technologies Inc.が教育目的でのみ提供するものです。
さらに詳しい情報
コメント
サインインコメントをする