黄仁勋强调了AI技术的迅速演变，尤其是通向通用人工智能（AGI）道路上的突破。他表示，機械学習のエンジンが最も重要です。強力なGPUを持っているだけでは、企業がAI分野で成功することを保証することはできません。
10月4日、エヌビディアの最高経営責任者である黄仁勋氏がBg2 Podのトークショーに出演し、司会のBrad GerstneとClark Tangと広範囲の対談を行いました。
彼らは主に、知能をAGIに拡張する方法、エヌビディアの競争優位性、推論とトレーニングの重要性、AI分野の将来の市場動向、様々な業界へのAIの影響、Elonの孟菲斯スーパークラスター、X.ai、OpenAIなどのトピックについて議論しました。
黄仁勋氏はAI技術の急速な進化を強調し、特に普遍的人工知能（AGI）への道を示す突破に言及しました。AGIアシスタントがある日、ある形で登場し、時間の経過と共により洗練されることを表明しました。
黄仁勋氏は、計算革命におけるエヌビディアのリーダーシップを共有し、計算コストを削減し、革新的なハードウェアアーキテクチャを通じて、機械学習とAIアプリケーションを推進する上でエヌビディアが顕著な優位にあることを指摘しました。彼はエヌビディアの"城壁"、つまり10年間にわたるソフトウェアおよびハードウェアエコシステムの蓄積に触れ、競合他社が単一のチップの改善で超越することが困難であることを強調しました。
さらに、黄仁勋氏は、xAIとマスクチームがわずか19日間で10万台のGPUを使用した孟菲斯スーパークラスターの構築を完了したことを称賛し、これを"前人未踏"の達成と讃えました。このクラスターは明らかに世界で最速のスーパーコンピューターの1つであり、AI推論およびトレーニングのタスクで重要な役割を果たします。
生産性へのAIの影響について話す際、黄仁勋氏は楽観的に企業の効率が大幅に向上し、成長の機会がより多くもたらされ、大規模な失業を導くことはないと述べました。同時に、技術の開発と利用が社会に有益であることを確認するために、業界全体がAIのセキュリティに対する関心を高めるよう呼びかけています。
全文要点：
- （AGIアシスタント）非常すぐにどこかの形で登場する... 最初は非常に役立ちますが、完璧ではないです。そして時間の経過とともに、ますます完璧になっていきます。
- 私たちは10年で計算の限界コストを10万倍下げました。私たちの全スタックは成長し続けており、全スタックが革新しています。
- 人々は、より優れたチップを設計する理由がより多くのトリガー、ビット、バイト...にあると考えていますが、機械学習はソフトウェアだけでなく、全データパイプラインに関わります。
- 機械学習のフライホイールが最も重要です。このフライホイールをどのように速くするかを考える必要があります。
- 強力なGPUを持っているだけでは、企業がAI分野で成功を収めることは保証されません。
- マスクは大規模システムのエンジニアリング、構築、リソース配分に対する理解が唯一無二です... 10万のGPUをクラスターとして... 19日で完成。
- AIはすべての仕事を変えるわけではありませんが、人々の仕事方法には大きな影響を与えます。企業が生産性を向上させるためにAIを使用するとき、通常はより良い収益または成長として表れます。
AGIおよびAIアシスタントの進化
Brad Gerstner：
今年のテーマは、人工知能をAGIに拡張することです。2年前にこれを行った時、私たちはAI時代にいました。ChatGPTの2ヶ月前であり、すべての変化を考慮に入れると、これは信じられないことです。ですので、私たちは思考実験と予測でスタートできると思います。
もし私がAGIを簡単にポケットの個人アシスタントと考えたら、もしAGIがその口語アシスタントだと思ったら、私はそれに慣れています。それは私のすべてを知っています。私に完璧な記憶を持ち、私とコミュニケーションできます。彼らはホテルを予約したり、医者を予約してくれるかもしれません。現在の世界の変化の速さを考えると、いつ個人アシスタントを所有できると思いますか？
黄仁勋:
すぐにでも何らかの形で現れるでしょう。そして時間の経過とともに、そのアシスタントはますます優れていくでしょう。私たちが知っている素晴らしい技術です。だから、初めは非常に便利でありながら完璧ではないと思います。そして時間が経つにつれて、ますます完璧になっていくでしょう。すべての技術と同様に。
Brad Gerstner：
変化の速度を見ると、私はマスク氏が言った、重要な唯一のことは変化の速度だと思います。私たちは確かに変化の速度が急速に加速していることを感じており、これは私たちがこれらの問題に関して見てきた中で最も速い変化であり、AI分野で10年以上苦労し、さらに長い時間が経ちます。これがあなたのキャリアで見た中で最も速い変化の速度でしょうか？
黄仁勋:
これは、私たちが計算を再発明したためです。多くの出来事が起こるのは、10年間で計算の限界コストが100,000倍に減少したためです。ムーアの法則は約100倍です。私たちはさまざまな方法でこれを実現しました。まず、効率の低い作業をCPUからGPUに移し、加速計算を導入しました。新しい数値精度を発明することでこれを実現しました。新しいアーキテクチャを導入し、テンソルコアを発明しました。システム的にMVリンクを構築し、非常に高速なメモリを使用し、MVリンクを使用して拡張し、スタック全体で動作しました。基本的に、私が述べた英伟达のアプローチは、摩耗補助速度につながりました。
今、本当に驚くべきことは、その後、私たちは人工プログラミングから機械学習に移行したことです。機械学習の驚異は、非常に速く学習できることにあります。そのように実証されています。したがって、計算の割り当て方法を再設計する際に、テンソル並列性、さまざまなパイプライン並列性など、さまざまな並列性を行いました。これらの基礎の上で新しいアルゴリズムとトレーニング方法を発明することに長けており、これらすべての技術、すべての発明は互いに重ね合わせられた結果です。
過去を振り返ると、メル法則の機能を見ると、ソフトウェアは静的です。それは事前にコンパイルされたものであり、摩耗法則の速度で下のハードウェアが成長します。今、全体のスタックが成長し、全体のスタックがイノベーションしています。ですので、拡張が急速に現れていると思います。
これはもちろん非凡です。ただし、過去に私たちが議論していたのは、プレトレーニングモデルとその拡張、およびモデルサイズの倍増、それに伴うデータサイズの倍増でした。結果として、年々必要とされる計算能力が4倍に増加しています。これは大きなことです。しかし、今では後続トレーニングの拡張、推論の拡張が見られます。したがって、以前はプレトレーニングが難しいと考えられ、推論は簡単だと考えられていました。今はすべてが難しいです。これは理にかなっていますが、人間のすべての思考が一回りのアイデアだと考えるのは少しばかげています。したがって、高速思考、低速思考、推論、反省、反復、シミュレーションなどの概念が必要です。今、それが現れています。
エヌビディアの競争力のある要素
Clark Tang：
エヌビディアの深いエヌビディアモデルがどれだけ深いか、これはエヌビディアが最も誤解されやすいものの1つです。誰かがより優れたチップを発明したら勝ちだという考え方がありますが、実際には、GPUからCPU、さらにはネットワークまでの完全なスタックを構築するのに10年かかりました。特にアプリケーションをサポートするソフトウェアとライブラリが英伟达上で動作しています。ですので、私はこれについて話していると思いますが、英伟达の城壁を考える時、今日のビデオモードが3、4年前よりも大きいか小さいか、どう思われますか？
黄仁勋:
好吧，我很感谢你认识到计算是如何变化的。事实上，人们认为（而且很多人现在仍然这样认为）设计出更好的芯片的原因在于它有更多的触发器、更多的位和比特。您明白我的意思吗？您会看到他们的主题演讲幻灯片。它有所有这些触发器、条形图和诸如此类的东西。这些都很好。我的意思是，看，马力确实很重要。是的。所以这些事情从根本上来说很重要。
然而，不幸的是，这都是想法。这都是在软件是运行在Windows上的某个应用程序并且软件是静态的意义上的想法，对吗？这意味着改进系统的最佳方法就是制造越来越快的船。但我们意识到机器学习不是人类编程。机器学习不仅仅是软件，这关乎整个数据管道。事实上，机器学习的飞轮才是最重要的。那么你如何看待我启用这个飞轮？一方面，让数据科学家和研究人员在这个飞轮中高效工作，而这个飞轮从一开始就开始了。很多人甚至没有意识到需要AI来管理数据，来教导AI。而AI本身就相当复杂。
Brad Gerstner：
AI本身在改进吗？它也在加速吗？再说一次，当我们考虑竞争优势时，是的，没错。这是所有这些的组合。
黄仁勋:
正是如此，正是因为有了更聪明的AI来管理数据，才会导致这种情况。我们现在甚至有了合成数据生成和各种不同的数据管理方式，向其呈现数据。所以在你接受培训之前，你就已经涉及了大量的数据处理。所以人们会想，哦，Pytorch，这是世界的开始，也是世界的终结。这非常重要。
但别忘了，在Pytorch之前和之后，飞轮的意义在于你必须思考的方式，我该如何思考整个飞轮，如何设计一个计算系统，一个计算架构，帮助你利用这个飞轮，让它尽可能高效。这不是一个应用程序训练的大小。这说得通吗？这只是一步。好吧。飞轮上的每一步都很难。所以你应该做的第一件事，不是思考如何让Excel更快，如何让doom更快，那是过去的事情，不是吗？现在你必须考虑如何让这个飞轮更快？这个飞轮有很多不同的步骤，机器学习并不容易，你们都知道。
OpenAI 或 X 或 Gemini 团队所做的事情都不容易，他们深思熟虑地思考着我们。我的意思是，他们做的事情并不容易。所以我们决定，你看，这才是你应该考虑的。这是整个过程，你想加速其中的每一部分。你要尊重多尔斯定律，多尔斯定律表明，如果这是30%的时间，而我将其加速了三倍，那么我并没有真正加速整个过程。这有道理吗？你真的想创建一个系统来加速每一步，因为只有做整个事情，你才能真正实质性地改善周期时间和飞轮，也就是学习率，最终才是导致指数级增长的原因。
したがって、シスコシステムズが本当にしていることに対する私たちの考え方は、製品に現れます。注意してください、私はこのフライホイール、ウェブサイト全体について話しています。はい、その通りです。私たちはすべてを加速させました。
今の主な焦点はビデオです。多くの人が物理的なAIとビデオ処理に焦点を当てています。フロントエンドを想像してください。毎秒TBのデータがシステムに入ってきます。例えば、1つのパイプラインがすべてのデータを受け取ります。まずトレーニングを準備する必要があります。はい、これによりプロセス全体が加速します。
Clark Tang：
今日、人々はテキストモデルのみを考えています。はい、でも将来は、このビデオモデルが、o1などのいくつかのテキストモデルを使用し、我々がその段階に到達する前に本当に多くのデータを処理します。
黄仁勋:
はい。ですので、言語モデルはすべてに関わります。しかし、この業界は、言語モデル、これらの大規模な言語モデルをトレーニングするために膨大な技術とリソースを費やしました。今、私たちはすべての段階で大規模な言語形式を使用しています。これは非常に素晴らしいことです。
Brad Gerstner：
私が聞いたのは、組み合わせシステムの中では、はい、時間とともに優位が増します。ですので、私が聞いたのは、私たちの今日の優位性は3〜4年前よりも大きいということです。なぜなら、私たちはすべてのコンポーネントを改善しているからです。これが組合せであり、たとえば、ビジネスケーススタディとして、インテル、あなたの現在の位置に対して、主導的なモードを持ち、スタック内で主導的な地位を占めています。おそらく、簡単にまとめると、あなたの競争上の優位性を、彼らが自らのサイクルのピークで持っていた競争上の優位性と比較することです。
黄仁勋:
インテルは他社と異なるのは、製造技術と製造において優れたパフォーマンスを発揮する可能性がある最初の企業かもしれません。製造とはチップの製造のことです。チップの設計、x86アーキテクチャでチップを構築し、より速いx86チップを製造することが彼らの才能であり、彼らは製造と融合させています。
当社は少し異なります。実際、並列処理はすべてのトランジスタが優れていることを要求しませんが、直列処理はすべてのトランジスタが優れていることを要求します。並列処理にはコスト効率的な大量のトランジスタが必要です。私は10倍のトランジスタと、速度が20％遅い方が好ましいです。そして10倍少ないトランジスタよりも速度が20％速いのではなく。これは理にかなっていますか？彼らは逆の結果を求めています。したがって、シングルスレッドのパフォーマンス、シングルスレッド処理、および並行処理は非常に異なります。したがって、実際には、世界はどんどん良くなっているわけではないことに気づきました。我々は非常に良いことをしたいと思っていますが、世界は実際には進化し続けています。
並列計算、並列処理は難しいです、なぜなら各アルゴリズムは異なる再構成方法とアルゴリズムアーキテクチャを必要とするからです。気づいていない人々のために、3つの異なるCPUを持つことができることです。それぞれに独自のCコンパイラを持っています。ソフトウェアはその軸にコンパイルできます。
これは計算を高速化する際に不可能です。アーキテクチャを提案する企業は独自のOpen GLを提供しなければなりません。そのため、わたしたちは革命的に深層学習を進めています、なぜなら、わたしたちのドメイン特化型ライブラリ、cuDNN（ディープニューラルネットワークライブラリ）というドメイン特化型ライブラリ、光学を持っているからです。ドメイン特化型ライブラリとしてcuQuantumがあります。
ブラッド・ガーストナー：
下記の業界特化アルゴリズムについて、Pytorchレイヤーに焦点を当てていることをご存知ですか。私がよく聞くものなどです。
黄仁勋:
もし私たちがそれを発明しなければ、上記のどんなアプリケーションも機能しません。私の意味を理解していますか？ですから、英伟达は本当にアルゴリズムに秀でています。基盤となる科学の上での情報伝達が私たちが本当に得意としていることです。
エヌビディアはハードウェア、ソフトウェア、エコシステムを含む完全なAIコンピューティングプラットフォームを構築しています
Clark Tang：
今はすべての注力が推論に集中しています。しかし、私は2年前、Bradと夕食を共にした際にあなたに尋ねた質問を覚えています。あなたのモートは推論に関してトレーニングと同じくらい強力ですか？
黄仁勋:
私はそれがより強力になると言ったかどうかを確信していません。
Clark Tang：
あなたはさきほど多くの要素について触れました。両者の組み合わせ可能性、または、我々が全体を把握していないこと。顧客にとって、両者の間で柔軟性を維持できることが非常に重要です。しかし、今や推論の時代に入っているので、話せますか？
黄仁勋:
推論トレーニングは、そのスケールで推論を行うことです。言いたいことは、あなたは正しいです。ですので、適切にトレーニングすると、おそらく適切に推論できるでしょう。何も考慮せずにこの構造を構築すると、この構造上で実行されます。最適化することはできますが、少なくとも、エヌビディア上で構築された構造ですので、エヌビディア上で実行されます。
今、もう1つの側面は資本投資の側面であり、新しいモデルをトレーニングする際に、最新の装置を使用したいということです。昨日使用した装置は推論に非常に適しているため、新しいインフラの背後には互換性のある一連の無料装置があります。したがって、常に互換性を保つように非常に厳密に確認しており、残したすべてが卓越を維持するようにしています。
現在、私たちは新しいアルゴリズムを継続的に再発明するために多くの労力を費やしています。それにより、Hopperアーキテクチャが購入時よりも2倍、3倍、4倍良くなる時間に備え、インフラが本当に効果的に継続することができます。したがって、私たちが行っているすべての作業、新しいアルゴリズムや新しいフレームワークの改善に注目してください。それが私たちが持つすべてのインストール基盤に役立ちます。Hopperはより適していますし、AmpereやVoltaも同様です。
Sam AltmanがOpenAIのVoltaインフラを最近停止したと教えてくれました。ですので、私たちはこのインストール基盤の痕跡を残したと思うのです。計算インストール基盤全体が重要になります。エヌビディアはクラウド全体に参入しており、ローカルおよびエッジも含まれます。
VILAのビジュアル言語モデルはクラウドで作成され、修正不要でロボットエッジでも完全に機能します。両方が非常に互換性があります。したがって、大規模な装置にとってアーキテクチャの互換性が非常に重要であり、iPhoneや他のデバイスにとっても同様です。推論にとってインストール基盤が重要であると考えます。
黄仁勋:
しかし、私にとって最も利益をもたらすのは、新しいアーキテクチャでこれらの大規模言語モデルをトレーニングする取り組みです。いずれ時機が熟した際に、推論で優れた機能を持つアーキテクチャをどう作成するかを考えることができます。したがって、推論モデルのイテレーションモデルについて常に考えており、非常にインタラクティブな推論体験を作成する方法について考えています。あなたの個人的な代理人、あなたが話した後、しばらく考えると去るのではなく、すぐに関わりたいと思うでしょう。ですので、そのようなものをどのように作成するか、考えるべきです。
MVLinkを使用すると、非常にトレーニングに適しているシステムを採用できます。しかし、完了すると推論性能が非常に優れます。つまり、最初のトークンへの到達時間を最適化したいと考えています。ただし、最初のトークンへの到達は非常に困難です。なぜなら、大量の帯域幅が必要だからです。しかし、コンテキストが豊かな場合、多くのFLOPSが必要です。したがって、数ミリ秒の応答時間を実現するには、無制限の帯域幅と同時に無制限のFLOPSが必要です。したがって、このアーキテクチャを実現することは本当に難しいです。そのために、素晴らしいBlackwell MVLinkを発明しました。
Brad Gerstner：
先週、Andy Jassy（アマゾンの社長兼CEO）と一緒に食事をしていた時、Andyは、私たちにはTraniumとInferentiaが近日中に登場すると述べました。これらは英特尔の問題だとほとんどの人が考えているでしょう。しかし、今後、彼は英特尔が私たちの重要なパートナーであり続けると述べました。私の見解では、将来の世界は英特尔に依存していると考えています。
したがって、カスタムASICを構築するとき、それらは特定のアプリケーションに使用されます。Metaの推論アクセラレータ、Amazonのトレーニング、またはGoogleのTPUなどが該当するかもしれません。そして、今日直面している供給不足を考えると、これらの要素がこの動向を変えるでしょうか？または、彼らはあなたから購入したシステムを補完しますか？
黄仁勋:
私たちは単に異なることをしています。はい、我々は異なることを試みています。現在、英特尔はこの新しい世界、機械学習の世界、生成的AIの世界、エージェントAIの世界のための計算プラットフォームを構築しようとしています。我々は、プログラミングから機械学習、CPUからGPU、ソフトウェアからAI、アプリケーションまで、計算スタック全体を再考し、それを再構築しようとしています。
私たちが作ろうとしているものは、どこでも利用可能な計算プラットフォームです。これが私たちの取り組んでいる複雑さです。私たちの行っている作業の複雑さは、我々が行っていることをよく考えればわかります。我々はAIインフラ全体を構築しようとしており、それをコンピュータと見なしています。以前に述べたように、データセンターは今では計算の単位です。私にとって、コンピュータを考えるとき、私が考えるのはチップではなく、このものです。これが私の思考モデルであり、その中のすべてのソフトウェア、すべての編成、すべての機器が私の使命です。これが私のコンピュータです。
私たちは毎年新しいものを構築しようとしています。はい、これは狂気の沙汰です。以前、誰もこれをやったことがありませんでした。毎年、私たちは新しいものを構築しようとしています。毎年、私たちは性能を2〜3倍に向上させます。したがって、毎年、コストを2〜3倍に削減します。そして、毎年、エネルギー効率を2〜3倍に向上させます。したがって、顧客には一度にすべてを購入しないでください、毎年少しずつ購入してください、そうですね？その理由は、将来のコストを平均的に維持したいからです。現時点では、すべてがアーキテクチャ的に互換性がありますので、現在のスピードでこれらを独自に構築することは非常に困難です。
現在、cni next-generation hardware indexからすべてを受け入れており、インフラストラクチャやサービスとして販売するのではなく、我々はこれらすべてに同意していません。それをGCP、AWS、Azure、Xに統合していますので、各統合は異なります。すべてのアーキテクチャライブラリ、アルゴリズム、フレームワークを彼らのフレームワークに統合する必要があります。私たちのセキュリティシステムを彼らのシステムに統合し、私たちのネットワークを彼らのシステムに統合します、そうでしょう？その後、基本的には10回統合を行います。今では毎年そうしています。それが奇跡です。
Brad Gerstner：
私たちは、毎年これを試みることは狂ったことだと思います。では、毎年それを行うのは何を動機付けているのでしょうか？
黄仁勋:
ソ、そのときにシステムを徹底的に分析することです。分析を行うたびに、各人がより多くの分析を行うほど、驚かれることでしょう。はい、今日、電子エコシステム全体が、我々と協力し、すべてのこれら異なるエコシステムに統合されたコンピュータキューブを構築することにどれほど献身できるか、そしてそのように円滑に調整できるかが重要です。したがって、私たちがバックワードに伝播しているのはAPI、メソッド、ビジネスプロセス、設計規則であり、フォワードに伝播しているのは方法、アーキテクチャ、APIです。
Brad Gerstner：
彼らは元々そのようでした。
黄仁勋:
数十年にわたり、彼らはずっと努力してきました。はい、そして私たちの発展と共に着実に成長しています。しかし、これらのAPは統合されなければなりません。
Clark Tang：
誰かがOpenAI APIを呼び出すだけで、それは機能します。その通りです。
黄仁勋:
そうです。はい、ちょっと狂気じみています。これは一体です。これが私たちが発明したものであり、この巨大な計算基盤は、地球全体が私たちと協力しています。それはどこにでも溶け込んでいます。あなたはそれをデルで販売することも、HPで販売することもできます。それはクラウドにホスティングされています。どこにでもあり、どこにでもいます。人々は今、ロボットシステムでそれを使用しており、ロボットとの人間のロボットが自動運転車輛で運行しています。それらはアーキテクチャで互換性があります。かなり狂っています。
Brad Gerstner：
これは本当に狂ったことです。
黄仁勋:
私はあなたが私が質問に答えていないという印象を与えたくありません。実際、私は答えました。私が本当に言いたかったのは、私たちが基礎を真剣に考えているということです。私たちはただ異なるアプローチをしているだけです。はい、企業として、私たちは状況を理解したいと思っています。私は企業や生態系全体に非常に精通していますよね？
全員が他のことをしていることを知っています。彼らが何をしているか。これが私たちにとって有利でない場合もありますが、時にはそうでないこともあります。私はこれを非常によく理解していますが、これは会社の目標を変えるものではありません。はい、会社の唯一の目標はいつでもどこでも使えるプラットフォーム構築です。それが私たちの目標です。
私たちは誰からもシェアを取り戻そうとはしません。エヌビディアは市場メーカーであり、シェア確保者ではありません。私たちの企業が示していないプレゼンテーションを見れば、この会社は市場シェアについて一日中話していないことがわかります。内部でもそうです。私たちが話すのは次に何を作るかということです。
次にこのフライホイールで解決できる次の問題は何でしょうか？どうすれば人々の役に立つことができるでしょうか？過去に1年かかったフライホイールを約1か月に短縮するにはどうすればよいでしょうか？はい、それが光速です。そうでしょう？
だから、私たちはすべての異なる側面を考慮していますが、私たちが決してしないこと、私たちがすべてに詳しいとは限らないことがありますが、私たちは自分たちの使命が非常にユニークであると確信しています。唯一の問題はこの使命が必要かどうかです。それは意味がありますか？すべての会社、偉大な会社はこれを中心に据えるべきです。あなたが何をしているかについてです。
もちろん。唯一の問題は、それが必要かどうか、価値があるかどうか、影響力があるかどうか、人々にとって有用かどうかです。私はあなたが開発者であり、ジェネレーティブAIスタートアップ企業であること、そして自分たちの企業をどのように成長させるかを決定しようとしていることを確信しています。
支援すべきA6モデルはどれかを選択する必要はありません。CUDAをサポートする場合、どこにでも行けます。後でいつでも意見を変えることができます。しかし、私たちはAIの世界への入口ですね。
プラットフォームに参加することを決定したら、他の決定は後回しにしても構いません。後で自分の基盤を構築することはいつでも可能です。私たちは反対しません。怒ることはありません。GCP、GCP Azureと協力する際に、私は彼らに数年前に私たちのロードマップを提示しました。
他们没有向我们展示他们的基本路线图，而且这从未冒犯过我们。这有道理吗？我们创造，我们处于一个。如果你有一个唯一的目标，你的目标有意义，你的使命对你和其他人来说都是珍贵的，那么你可以透明。请注意，我的路线图在 GTC 上是透明的。我的路线图对我们在 Azure、AWS 和其他公司的朋友来说更深入。我们做任何这些事情都没有问题，即使他们正在构建自己的资产。
Brad Gerstner：
我认为，当人们观察业务时，您最近表示对Blackwell的需求非常疯狂。您说，工作中最困难的部分之一就是在世界缺乏您能够生产和提供的计算能力的情况下，用情感工具对人们说“不”。但批评者说了这些。稍等片刻。他们说这就像2000年的思科一样，我们过度建设光纤。这将是繁荣与萧条的交替。我想到23年初我们吃饭的时候。23年1月的那顿晚餐上，英伟达的预测是，2023年的收入将达到260亿美元。你做到了600亿美元。
黄仁勋:
就让事实真相大白吧。这是世界历史上最大的预测失败。对。我们至少可以承认。
GPU在AI计算中扮演着越来越重要的角色
Brad Gerstner：
那是，那是我们在11月22日非常兴奋，因为我们有来自Inflection的Mustafa这样的人，而没有来自Character的人来我们办公室谈论投资他们的公司。他们说，好吧，如果你不能投资我们的公司，那就买英伟达，因为世界上每个人都在试图获得英伟达芯片来构建这些将改变世界的应用程序。当然，寒武纪时刻发生在ChatGPT上。尽管如此，这25位分析师仍然专注于加密货币赢家，以至于他们无法想象世界上正在发生的事情。所以最终规模更大了。用非常通俗的英语来说，对Blackwell的需求是疯狂的，而且只要你能，只要你能预见，它就会一直这样下去。当然，未来是未知的，不可知的。但为什么批评者会错得这么离谱，认为这不会像思科在2000年那样过度建设。
黄仁勋:
未来を考える最良の方法は、第一原則から出発することですね？良いです、では、問題に対して、私たちが行っていることの第一原則は何でしょうか？最初に、私たちは何をしているのでしょうか？私たちがしている最初のことは、計算機を再発明していることですよね？先程言及しましたが、将来の計算は高度な機械学習になると言いましたね。そう、高度な機械学習です。良いんです、ほとんど私たちが行っていること、ほぼすべてのアプリケーション、Word、Excel、Powerpoint、Photoshop、Premier、AutoCAD、あなたのお気に入りのアプリケーションもすべて手作業で設計されています。将来、それらは高度な機械学習になると保証しますね？ですよね？ですので、これらのツールもそうなるでしょうし、何よりも、それらを使用するのに支援する機械、エージェントがあるでしょう。良いんです、ですので今、私たちはこれが事実であることを知っています。ですよね？計算を再発明しました。戻ることはありません。計算技術の全体が再構築されています。良いんです、これを達成したので、ソフトウェアは異なるものになるでしょう。ソフトウェアで書けるものも異なるでしょう。ソフトウェアの使用方法も変わるでしょう。だから、これを認識しましょう。これが今の基本的な事実です。そうです。
今の問題は何が起こるかですね？家庭用計算機の過去を振り返ってみましょう。過去には1兆ドルが投じられました。では、データセンターを見てみましょう。これらのコンピュータが未来にふさわしいものでしょうか？否定的です。そこにはすべてのCPUがあります。何ができるか、できないかはわかりますね。1兆ドル近くのデータセンターの近代化が必要とされていることを知っています。なので、今、私たちが話している時に、これら古いものを4〜5年の間に近代化する必要があるのは合理的なことです。
ですので、私たちは、それを近代化する必要があるものと交渉している方々と話しています。そうです、彼らはGPUでそれを近代化しています。そういうことです。
あなたは500億ドルの資本支出を持っています。未来のためにオプションA、オプションBを選び、資本支出を行いますか？
または過去と同様に資本支出を行い、すでに過去の資本支出を持っている今、そうでしょう？はい、そうですね。そうです、そこにあります。それでもそれほど改善されません。ムーアの法則は基本的に終了しました。なので、なぜ再構築する必要があるのでしょうか？
私たちは500億ドルを投じ、AI生成に取り組むだけですね。ですので、あなたの会社はより優れたものになります。ですよね？今、あなたはこの500億ドルをどれだけ投入しますか？さて、私は500億ドルの100％を投じるでしょう、なぜなら私は4年のインフラを持っているからです。
ですので、あなたは、私たちが現在立っている価値1兆ドルの能力について議論している人々と、第一原則的な考え方から推論しているということです。賢い人々が賢いことをしています。さて、第二部分はこうです。それでは、行って、ビル。
価値数兆ドルのインフラ。約1500億ドルです。わかりました。ですので、将来的に1兆ドルのインフラを4〜5年で整備する必要があります。では、観察された第二の事柄は、ソフトウェアの記述方法が異なるが、使用方法も異なるということです。
将来、代理人が出現します。当社にはデジタル従業員がいます。受信トレイには、これらの低い顔に小さな点が表示されます。未来は、これらの低いアイコンはAISを意味しますね。そうですか？それらを送ります。
もうC++でコンピュータをプログラミングする必要はありません。AIをプログラミングする方法をヒントを使って行います。そうですか？現在、これは今朝私が話した内容と同じです。
ここに来る前に多くの電子メールを書きました。もちろん、チームにヒントを出しています。背景を説明し、私が知っている基本的な制約を説明し、彼らのタスクを説明します。十分なスペースを残し、必要な内容を理解させるための十分な指示を与えます。結果がどのようになるべきかを可能な限り明確に説明しようと考えていますが、十分なぼやけた余地と創造の余地を残しており、彼らが驚かせてくれるようにしています。
そうですか？これは今日AIにヒントを出すと何ら変わりません。はい、これが私がAIを提示する方法です。したがって、現代化されたインフラの上には、新しいインフラがあります。この新しいインフラは、これらのデジタル人を運用するAI工場となり、24時間運用されます。
私たちは世界中のすべての企業にこれらの装置を提供します。工場にはそれらを持ち、自律システムに持ちます。そうですか？つまり、一つの計算構造があります。この一つの構造をAI工場と呼び、世界中で製造が必要ですが、今日はまだ存在しません。
ですので、問題はその規模です。現時点ではわかりません。数兆ドルに及ぶ可能性があります。現在の状況はわかっていますが、ここに座って建設する際の素晴らしいことは、この新しいデータセンターの現代化された構造とAI工場の構造が同じであるということです。それは良いことです。
Brad Gerstner：
クリアに言えますか。1兆ドルの古いものを持っています。近代化が必要です。少なくとも1兆ドルの新しいAIワークロードが迫っています。はい、今年の収入は1250億ドルに達します。何か理由がありますか？今日ここにいる理由は何ですか？そうです、もし1250億ドルしかないのに何兆ものTamがあるならば、あなたの将来の収入は現在の2倍または3倍にはなりません。収入が増えない理由はありますか？いいえ。
黄仁勋:
すべてがそうではないことは皆知っていますが、会社は池の大きさに制限されています。金魚鉢はこのサイズしかありません。ですので、問題は、私たちの池は何か、私たちの池は何かです。多くの想像力が必要であり、未来を考慮するとき、市場メーカーが新しい溜めを作らずに探る理由です。昔を振り返り、市場シェアを獲得しようとすることは非常に難しいことです。獲得できる市場シェアには制限があります。もちろん、市場メーカーの活躍範囲は非常に広いです。
ですので、私たちの会社にとっての幸運は、会社設立当初から市場を創造しなければならず、その中で泳ぎ回ることができるということです。その時は人々がそれに気づいていませんでしたが、今では人々が気づいています。そして、我々は3DゲームPC市場を創造する出発点に位置しています。基本的に、私たちはこの市場を発明し、すべてのエコシステムとグラフィックスカードエコシステム、すべてを発明しました。そのため、後でそれに役立つ新しい市場を発明する必要がありますが、これは私たちにとって非常に快適な作業です。
黄仁勋: hpインクの成功を喜んでいます
よく知られていますが、この週、ヨウダオは1500億ドルで65億ドルを調達しました。私たちすべてが関与しています。
黄仁勋:
彼らのために本当にうれしいです、彼らが一緒にいることを本当にうれしいです。彼らが素晴らしいことを成し遂げたことを本当にうれしいです、チームも素晴らしい仕事をしました。
Brad Gerstner：
報告によると、彼らの今年の売上高または営業収益はおおよそ50億ドルに達し、来年には100億ドルに達する可能性があります。今日のビジネスを見ると、その収益はおおよそGoogleのIPO時の2倍です。彼らは25億の、はい、平均ユーザー数は週に250百万人で、私たちはこれがGoogleのIPO時の2倍だと推定しています。この会社のPERを見ると、来年100億ドルになると信じるならば、おおよそ収益予測の15倍、GoogleとMetaのIPO時のPERと同じです。22ヶ月前に収益がゼロで週平均ユーザー数がゼロ人であった会社を想像してみてください。
OpenAIとのパートナーシップがどれほど重要か、およびOpenAIがAIを広く認識し利用する力としてどれほど重要かについてお話ください。
黄仁勋:
それは私たちの時代で最も重要な企業の1つであり、AGIビジョンを追求する純粋なAI企業です。その定義が何であれ、それは完全に重要ではないとほとんど考えません。私はまた、タイミングが非常に重要だとも思いません。私が知っている1つのことは、時間の経過とともにAIには能力のロードマップがあることです。そして、その能力のロードマップは非常に壮大でユニークです。このプロセスでは、AGIの定義に達する前に、我々はそれを十分に活用するでしょう。
あなたが今やるべきことは、今、私たちが話している間に、デジタル生物学者、気候技術研究者、素材研究者、物理学者、宇宙物理学者、量子化学者と話すことです。あなたはビデオゲームデザイナーや製造エンジニア、ロボット専門家に質問することができます。お好きな方を選んでください。あなたがどの業界を選択しようとも、徹底的に調査し、重要な人々と話し、AIがあなたの仕事の方法を完全に変えているかどうか尋ねてください。これらのデータポイントを収集し、自問してください、あなたはどれだけ疑う必要がありますか。彼らはAIの概念的な利点について話しているのではありません。彼らは今、将来的にAIをどのように使用するかについて話しています。今、農業技術、材料技術、気候技術、あなたの技術、あなたの科学分野を選んでください。それらは進化しています。AIは彼らが取り組んでいる仕事を推進しています。
今、私たちが言うように、すべての業界、すべての企業、すべての高度、すべての大学。信じられないでしょ？まさにその通りです。ビジネスを何らかの方法で変えるでしょう。それを知っています。つまり、それがどれほど現実的であるかを知っています。
今日。それが起こっている。それが起こっている。ですので、私はChatGPTの目覚めが引き起こしたと考えます。これは本当に信じられないことです。彼らのスピードとこの分野の独自の目標による推進が大切です。
Brad Gerstner：
彼らは次のモデルの最前線に資金を提供できる経済エンジンを構築しました。シリコンバレーは、全体的なモデルレイヤーと商品化されたLlamaが、多くの人々が非常に安価な価格でモデルの構築を可能にする共通認識を形成していると思います。ですので初期には多くのモデル会社がありました。これらは、特徴、トーン、そして統合力がすべてリストされています。
多くの人々がこれらの企業が経済エンジン上でエスケープスピードを構築し、次世代を資金提供し続けることができるか疑問視しています。自分自身の感覚では、これが統合を見る理由だと思います。OpenAIは明らかに速度に達しています。彼らは自らの未来を資金提供できます。他の多くの企業がそれを行えるかどうかは不明です。これはモデルレイヤーの現状についての公正な評価ですか？我々は、多くの他の市場で行っているように、これを経済的に実現可能なリーダーたちに統合し続けるでしょう。彼らは経済エンジンとアプリケーションを持ち、継続的な投資が可能です。
強力なGPUを持つだけでは、企業がAI分野で成功することを保証するわけではありません
黄仁勋:
まず、モデルとAIの間には根本的な違いがあります。はい。モデルは不可欠な要素です。はい。AIにとって、それは必要不可欠ですが十分ではありません。はい。ですので、AIは機能ですが、何に使用されるか、ですよね？それで、その応用は何ですか？ですよね？自動運転車のAIは人間のロボットのAIと関連がありますが同じではなく、後者はチャットボットのAIと関連がありますが同じではありません。
したがって、分類を理解する必要があります。はい、スタックの分類です。スタックの各レイヤーには機会がありますが、すべてのスタックのレイヤーが誰にとっても無限の機会を提供するわけではありません。
今、私はちょうど一つの言葉を述べたばかりですが、あなたがするべきことはモデルとGPUを交換することです。実際、これは当社が32年前に行った素晴らしい観察の1つであり、GPU、グラフィックチップ、またはGPUとアクセラレーティングコンピューティングとの根本的な違いがあることです。アクセラレーティングコンピューティングと私たちがAIインフラで行っている作業は異なります。それらは関連していますが完全に同じではありません。それらは重ね合わされています。それらはまったく同じではありません。そして、これらの抽象層のそれぞれにはまったく異なるスキルが必要です。
GPUを構築するのが本当に得意な人たちは加速計算の会社になる方法を知りません。具体的な例を挙げることができますが、多くの人がGPUを製造しています。後でGPUを発明したのか、わかりませんが、私たちだけが今日GPUを製造している会社ではありません、そうでしょう？どこにでもGPUがありますが、それらは加速計算会社ではありません。多くの人がそのようなことをしています。彼らのアクセラレーターはアプリケーションを高速化できますが、これは加速計算会社とは異なります。たとえば、非常に専門的なAIアプリケーションがあるかもしれませんね、それは非常に成功するかもしれませんね、そうでしょう？
Brad Gerstner：
これはMTIA（Mata自研の次世代AIアクセラレーションチップ）です。
黄仁勋:
はい。ただし、それは影響力と能力をもたらすタイプの会社かもしれません。ですので、あなたはどのような人になりたいかを決めなければなりません。これらすべての異なる分野には機会があるかもしれません。ただし、会社を設立するのと同様に、時間の経過とともに生態系の変化に注意を払い、何が商品化されるか、何が機能で何が製品で専業人であるかを認識する必要があります。よく。ちょうど話したように、多くの異なる方法でこの問題を考えることができます。
xAIとMemphisスーパーコンピュータクラスタは、「20万から30万のGPUクラスタの時代」に来ています
Brad Gerstner：
当然、新進者セクターシニョウ、リッチ、ユウチ、ユウヤ、有野心。それは cni next-generation hardware index です。そう、そうです。さらに、ある報道によると、あなたとLarry Ellison（オラクル共同創業者）とマスクと一緒に夕食をとっています。彼らは100,000個のH100チップを放棄するようにあなたを説得しました。彼らはメンフィスに行き、数ヶ月で大規模で連続したスーパークラスタを構築しました。
黄仁勋:
三つ目、等号は引かないように、わかりましたか？はい、私は彼らと夕食を共にしました。
Brad Gerstner：
このスーパークラスタを構築する能力があると思いますか？また、彼らはこのスーパークラスタの規模を拡大するためにさらに10万個のH200を求めようとしているとのうわさがありますね。まずは、Xと彼らの野心、そして彼らが達成したことについてお話ししましょうが、同時に、20万から30万のGPUクラスタの時代に来ているのでしょうか？
黄仁勋:
答えは肯定的です。そしてまず最初に、成果を認めましょう。概念の時からデータセンターが英伟达が装置をインストールする準備が整い、それを起動し、接続し、最初のトレーニングを行う瞬間まで、すべてが価値があります。
黄仁勋:
では、ますます短い時間で巨大な工場を建設し、冷却し電力供給し、許可を取得することは、まるでスーパーマンのようですね。はい、私が知る限り、世界にはこのことができる人物は一人しかいません。つまり、マスクは大規模システムのエンジニアリングや建設、リソース配分に関する理解がまったく独自です。はい、これは本当に信じがたいことです。もちろん、彼のエンジニアリングチームも優れています。つまり、ソフトウェアチームも優れていますし、ネットワークチームも優れていますし、インフラストラクチャチームも優れています。マスクはこれに深い理解を持っています。
エンジニアリングチーム、ネットワークチーム、基盤計算チーム、ソフトウェアチームと計画を始めた瞬間から、すべての準備作業は事前に進められました。そしてすべてのインフラ、すべての物流、当日に届いた技術と機器の数、ビデオインフラと計算インフラ、およびすべての技術トレーニングに必要なもの、19日が全て未定で、何が欲しいですか？実現されました。
一歩退いて考えてみましょう、19日が何日かご存知ですか？19日は何週かご存知ですか？そうですね、もしあなたが目で見ると、技術の数は信じられないほどです。すべての配線とネットワーク、そして英伟达装置のネットワークは、超大規模なデータセンターのネットワークとは大きく異なります。はい、1つのノードには何本の電線が必要ですか。コンピュータの背面は電線だらけであり、この大量の技術とすべてのソフトウェアを統合することは信じがたいことです。
ですので私は、マスクとXチームが行なったことに、私たちが一緒に行ったエンジニアリングおよび計画作業等を認識してくれて、とても感謝しております。ただし、彼らが達成したことは前代未聞です。これは新たな視点から見た場合に限ります。10万台のGPU、クラスターとして、これが地球上で最速のスーパーコンピュータに簡単になる可能性があります。通常、建設するスーパーコンピュータには3年の計画期間が必要です。そして機器を提供し、それらをすべて稼働させるには1年が必要です。はい、私たちが話しているのは19日です。
Clark Tang：
英伟达の貢献は何ですか？
黄仁勋:
すべてが順調に進んでいます。はい、もちろん、Xアルゴリズム、Xフレームワーク、Xスタックなどもたくさんあります。我々が逆向きの統合を大量に行っていると言っていますが、計画は非常に優れています。ただの事前計画です。
大規模分散コンピューティングは、将来のAIの発展において重要な方向性です。
Brad Gerstner：
一方は正しい。マスクはその一つです。はい、あなたはが、しかし、この質問に答える際に最初から、はい、ここに20〜30万のGPUクラスタがあります。はい、そうです。これは50万個に拡張できますか？100万個に拡張できますか？貴方の製品要求は、200万個に拡張することに依存していますか？
黄仁勋:
最後の部分は否定的です。私の考えでは、分散トレーニングは効果的である必要があります。分散コンピューティングが発明されるだろうというのが私の考えです。ある形態のフェデレーテッドラーニングと分散コンピューティング、非同期分散コンピューティングが発見されるでしょう。
私はこのことに非常に熱心で楽観的ですが、もちろん、認識する必要があるのは、スケーリングの法則は過去は事前トレーニングに関してでした。今、私たちはマルチモーダルに移行しており、合成データ生成に移行しており、後のトレーニングは現在信じられないほど広がっています。合成データ生成、報酬システム、強化学習に基づくもので、そして今、推論スケーリングはピークに達しています。モデルは、あなたの回答を出す前に信じがたいほどの内部推論を行っています。
これは合理的でない可能性があります。木検索が完了した可能性があります。強化学習が行われている可能性があります。また、何らかのシミュレーションが行われ、多くの反射が行われ、データが調査され、情報がチェックされた可能性があります。ですよね？そのため、その背景はかなり大きいかもしれません。私が言いたいのは、この種の知能は。まあ、そのようなことをしています。そのようにしています。ではないですか？ですから、能力、この拡張、私は計算し、モデルサイズと計算サイズが年に4倍になると仮定しています。
一方、需要は使用の観点から持続的に増加しています。数百万のGPUが必要だと考えていますか？疑いの余地はありません。はい、今、それは確実です。ですので、問題は、データセンターの観点からどのようにしてそれを構築するかですか？それは、データセンターが1回に数千メガワットか1回に250メガワットかどうかにかなり影響を受けると私は思います。私の考えでは、あなたは両方を同時に得るでしょう。
Clark Tang：
私はアナリストが常に現在のアーキテクチャのベットに焦点を当てると考えていますが、今回の会話の中で最も大きな収穫の1つは、あなたが将来の生態系と数年先を考えていることです。ですので、NVIDIAは単に拡張またはスケールアップしているだけでなく、将来の需要に対応するためです。これは、50万個または100万個のGPUクラスターに依存する必要はないという意味です。分散トレーニングが現れると、そのためのソフトウェアを構築します。
黄仁勋:
我々は7年前にMegatronを開発しました。そう、これらの大規模なトレーニングタスクのスケーリングは起こります。だから私たちはMegatronを発明しました。ですので、すべて進行中のモデルの並列性、分散トレーニングの突破、およびすべてのバッチ処理などすべては、私たちが初期の作業を行っていたからです。現在、私たちは次世代のための初期の作業をしています。
人工知能は働き方を変えました
Brad Gerstner：
それでは、ストロベリーとo1について話しましょう。o1で名前を付けるのが素敵だと思います。これは、世界でもっとも有能で賢明な人々を募集し、彼らをアメリカに連れてくるということです。私たちがそれに熱心であることを知っています。ですので私はこの考えが気に入っています。次のレベルのインテリジェントを展開するためのモデルを作り上げ、そう、これは次のような事実への敬意です：アメリカに移民としてやってきた人々こそが、私たちを成し遂げて、私たちの現在の姿にしてくれ、彼らの集団知恵をアメリカにもたらしてくれました。
黄仁勋:
もちろん。エクストラテレストリアルインテリジェンスもあります。
Brad Gerstner：
もちろん。これは私たちの友人であるNoam Brownが先導しています。推論時間が知能の拡張にとってどれだけ重要かは、単により大きなモデルを構築することとは異なります。
黄仁勋:
これは重要なことです。これは重要なことです。私は、多くの知的な行動が先天的に完了できないと考えています。そうです。多くの計算、たとえばリランダム化ですら行うことができません。つまり、無秩序な実行は優先的に行われることがあり、多くの動作は実行時にのみ完了します。
ですから、計算機科学の視点からも知能の視点からも、背景が必要なことが多すぎます。環境、ですよね。そして質問の答えの種類。時には、迅速な回答が十分です。答えの結果、影響が重要です。また、答えが使用される性質にも依存します。つまり、ある答えに1晩、別の答えに1週間かかることもあります。
はい。そうですよね？だから私は、AIにヒントを送り、1晩考えるように指示したらどうなるかを完全に想像できます。ただ即座に答えるのではなく、1晩中考えてから明日教えてください。自分にとって最適な答えと理由は何ですか。つまり、製品の観点から見ると、現在の品質、知能の分野に、一時的なバージョンが存在するでしょう。もちろん。5分で済むものもあります。
本当ですね？また、人間もいます。ですので、もしお望みであれば、私たちは大規模な従業員グループとなります。デジタルヒューマンだけでなく、生身の人間も、そして最高のロボットさえいることを望みます。
ブラッド・ガーストナー：
ビジネス的な観点から言えば、これは非常に誤解されていることだと思います。あなたはちょうど、15万人の従業員を抱える企業に匹敵する生産量の企業を描写しましたが、その達成には5万人しか必要ありません。はい。今、あなたは全従業員を解雇する必要があるとは言っていません。いいえ。あなたは今も組織内の従業員数を増やしていますが、その組織の生産量は大幅に増加します。
黄仁勋:
これ、これは頻繁に誤解されています。AIは私たち自身ではありません。AIは全ての仕事を変えるわけではありません。AIは人々の働き方に大きな影響を与えるでしょう。それを認めましょう。AIには信じられないほどの利点があるという可能性があります。一方で、損害を引き起こす可能性もあります。私たちは安全なAIを構築しなければなりません。はい、この基盤を築こうとする覚悟を持ちましょう。はい。わかりました。
黄仁勋:
人々が見落としている部分は、企業がAIを使って生産性を向上させると、収益がより良くなったり、成長がより良くなったり、あるいはその両方が実現する可能性が高いということです。このような状況が発生すると、CEOの次の電子メールはおそらく解雇についてではないでしょう。
ブラッド・ガーストナー：
確かにアナウンスすべきです、なぜなら成長しているからです。
黄仁勋:
私たちにはさらに多くのアイデアがあり、探求できるため、自動化を検討する前に人々が私たちを助ける必要があります。したがって、自動化の一部では、AIが私たちをサポートするのに役立つことができます。明らかに、それは私たちの考える助けになりますが、解決すべき問題を明確にする必要があります。解決可能な問題は数兆あります。したがって、企業は何を解決し、これらのアイデアを選択し、自動化および拡張方法を見つける必要があります。したがって、生産性が向上するにつれて、より多くの人材を雇用することになります。人々はこれを忘れがちですが、過去に戻ると、明らかに今日のアイデアは200年前よりも多いです。これがGDPがより大きく、雇用数が多くなる理由です。私たちは基礎となる部分で狂気的なほど自動化しています。
Brad Gerstner:
これはこの時期に非常に重要なポイントです。ほぼすべての人間の生産性、ほぼすべての人間の繁栄は自動化の副産物となっています。過去200年の技術。私の意味は、あなたはアダム・スミスやジョセフ・シュンペーターの創造的破壊を見ることができ、過去200年の人口当たりのGDP成長率チャートを見ることができます。今、それは加速しています。
はい、それは私にその問題を考えさせます。90年代を振り返ると、われわれアメリカ合衆国の生産性成長率は年間約2.5%から3%でした。次に2010年に約1.8%に減速しました。そして過去10年間は生産性成長が最も遅かった10年です。ですので、私たちの一定量の労働力およびキャピタルまたはアウトプットに対して、実際には記録した中で最も遅かったです。
多くの人々がこの原因について議論しています。しかし、もし世界があなたが描いているように本当に知的を利用し、生産する必要があるのならば、人類の生産力が急速に拡大している境界にいる可能性がありますか？
黄仁勋:
これが私たちの希望です。これが私たちの希望です。もちろん、私たちはこの世界に住んでいるので、直接の証拠があります。
私たちは、AIを利用して科学的な探索を行い、生産性を最大限に高めることが可能です。生産性を100%測定することは困難ですが、我々が設計する信じられないほどのチップをこの速度で作り出していることは間違いありません。我々が構築しているチップの複雑さとコンピュータの複雑さは指数関数的に増大しており、従業員数は生産性を測る基準ではありませんね。
AIとスーパーコンピュータを使用してソフトウェアを開発しており、従業員数はほぼ線形的に増加しています。生産性の別の側面です。
ですので、私は多くの異なる業界を詳細に調査し、サンプル検査を行うことができます。直接自分で検査することもできます。はい、おっしゃる通りです。ビジネスです。そうです。
ですので、私たちは過度に適合する可能性がありますが、それは私たちが観察したことを要約し、他の業界でもそれが現れるかどうかを示す芸術です。
AIは間違いなく世界で最も価値のある商品の1つです。今後、大量生産される必要があります。AIによって取り囲まれ、それらがあなたよりも遥かに優れている場合、何が起こるかを考える必要があります。私の生活はすべてここにあります。私には60人の直属部下がいます。
彼らは自分の分野で世界一流であり、私よりもはるかに優れています。私とのやりとりに問題はなく、容易に設計し、プログラムすることができます。だから、人々が学ばなければならないのは、彼ら全員がCEOになるということです。
彼らはAIエージェントのCEOになるでしょう。創造性、知識、問題の分解、およびAIのプログラミング方法を持っており、私のような目標を達成できるよう支援します。これが会社の運営です。
AIのセキュリティには、多くの人々の共同努力が必要です。
Brad Gerstner：
現在。あなたは何かを言及しました、それは不整合、安全なAIです。中東で起こっている悲劇について触れました。私たちには多くの自主権があり、世界中で多くのAIが使われています。では、悪人、安全なAI、そしてワシントンとの調整について話しましょう。今日、どう感じますか？私たちは正しい道を歩んでいますか？十分な調整レベルを持っていますか？マーク・ザッカーバーグ氏が言ったように、悪いAIを打ち負かす方法は、良いAIをさらに良くすることです。あなたは、これが人類にポジティブなネット収益をもたらす方法についてどのように説明しますか？この反ユートピアの世界に生きることではなく。
黄仁勋:
安全に関する議論は確かに重要であり、良いですね。AIを巨大なニューロンネットワークとして抽象化する概念的な視点は、そう簡単ではないですね。理由は、広く知られているように、AIと大規模言語モデルは関連があるものの、同一ではないからです。私は、多くの取り組みが非常に良いと考えています。まず、オープンソースのモデルを開発し、研究コミュニティ全体やあらゆる業界、企業がAIに参加できるようにすること、そうしてこの能力を活用する方法を学ぶことです。非常に良いですね。
第二に、AIの安全を確保するためにAIを発明することに尽力している技術の量が過小評価されています。はい、AIはデータを整理し、情報を運び、トレーニングを行い、AIを調整し、AIを作成し、合成データを生成してAIの知識を拡張し、幻影を減らすために使用されます。AIを通知し、保護し、他のAIを監視するための任務を果たす AI システム用に作成された AI システム全体、それらが作成した安全なAIが賞賛されていますね？
Brad Gerstner：
私たちはすでに構築されています。
黄仁勋:
それ。私たちはすべてを構築中です。はい、業界全体で、方法論、レッドチーム、プロセス、モデルカード、評価システム、ベンチマークテストシステム、すべて、これらすべてが信じられないほどのスピードで構築されています。私は祝福したいです。分かりますか？はい、分かります。
Brad Gerstner：
そして、政府の規制や条例はありません。はい、今日、この分野でこれらのAIを構築している参加者は、これらの重要な問題を真剣に受け止め、最善の実践に沿って調整しています。そうです。
黄仁勋:
ですので、これはまだ十分に重視されておらず、また十分に理解されていません。はい。誰かが必要です。誰もがAIについて話し始める必要があります。これはAIシステムです、エンジニアリングシステムです、最初の原則から構築され、しっかりとテストされています。覚えておいてください、AIは適用可能な能力です。重要な技術に規制を加える必要はないと思いますが、過度に規制することも避け、一部の規制はほとんどのアプリケーションに対して必要です。既存の技術アプリケーションに規制が施されているすべての異なるエコシステムは、現在AIが組み込まれている技術アプリケーションにも規制を施す必要があります。
ですので、私は、AIに対して必要な多くの規制が導入されるべきだとの考えを誤解したり無視したりしないでください。宇宙銀河系に頼るだけではダメです。AI委員会がそれを実施できる可能性があります、なぜならこれらすべての異なる機関が設立された理由があるからです。すべてのこれら異なる規制機関の設立には理由があります。最初の原則に戻ると、私はします。
オープンソースとオープンソースでないものの対立は間違っています
Brad Gerstner：
あなたたちは非常に重要で、非常に大規模で、非常に強力なオープンソースモデルを発表しました。
黄仁勋:
Nemotron。
Brad Gerstner：
はい、明らかに、Metaはオープンソースに重要な貢献をしています。Twitterを読んでいると、オープンソースとクローズドソースについての議論がたくさんあることに気づきました。オープンソース、自社のオープンソースモデルについて、最先端に追いつけると考えていますか？これが最初の質問です。第二の質問は、オープンソースモデルとクローズドソースモデルを所有することが、ビジネス運営に力を与えると、将来に対するあなたの見解であるかどうかですか？これらの2つのことがセキュリティに健全な緊張を生み出していると思いますか？
黄仁勋:
オープンソースとクローズドソースはセキュリティに関連していますが、セキュリティだけではありません。たとえば、クローズドソースモデルを持っていることは間違っていないし、それらは革新を維持するために必要な経済モデルのエンジンです。よくわかりました、私は完全に同意します。私はクローズドとオープンの対立が誤っていると考えています。
オープンは多くの業界が活性化するために必要な条件です。今、もし私たちにオープンソースがなければ、これらすべての異なる科学分野をどのように活性化し、AIを活性化できるでしょうか。彼らは自分たちの特定の分野のAIを開発しなければならず、開源モデルを使用して独自のAIを開発し、特定の分野のAIを作成しなければならないからです。これらは関連しています、そうです、もう一度言いますが、違います。オープンソースモデルを持っているからといってAIを持っているわけではありません。ですから、AIを作成するためにはそのオープンソースモデルが必要です。金融サービス、医療、交通輸送など、これらの業界、科学分野のリストは現在、オープンソースのおかげで実現されています。
Brad Gerstner：
信じられないですね。あなたのオープンソースモデルへの需要は非常に大きいですか？
黄仁勋:
私たちのオープンソースモデル？ます。Llama ダウンロード。明らかに、マークと彼らが行った仕事は信じられないものです。想像を超えています。はい。それはすべての業界、すべての科学分野を完全に活性化し、引きつけています。
わかりました、もちろん。私たちがNemotronを作った理由は合成データを生成するためです。単純に言えば、AIが一定の方法で座ってループし、自分自身を学習するためのデータを生成します。それは脆弱に聞こえるかもしれません。この無限ループを何度も繰り返しても、そのループは疑わしいものです。しかし、私の頭の中には、ある超知的な人を見つけて、ソフトな部屋に閉じ込めて、約1ヶ月後に出てきたら更に賢くなるというイメージがあります。ですので、ですので、でも、2〜3人がお互いに座って、異なるAIを持ち、異なる知識分布を持っており、私たちは品質保証を行うことができます。私たちはお互いにより賢くなることができます。
ですから、AIモデルが情報交換、相互作用、相互にデータを送受信し、強化学習を議論する、合成データ生成などを行えるようにすることは、直感的に意味があり、提案を行い意味があります。したがって、私たちのモデルNemotron 350B は世界で最も優れた報酬システムモデルです。これが最高の賞賛です。
おもしろいですね。これは非常に素晴らしいモデルであり、他の人のモデルを強化できます。したがって、他の人のモデルがどれほど優れていても、私はNemotron 340B を使用してそれを強化し改善することをお勧めします。私たちはLlamaがより良くなり、すべての他のモデルもより良くなりました。
Brad Gerstner：
2016年にDGX1を納品した人として、これは本当に信じられない旅です。あなたの旅は信じられないほど素晴らしいです。まるで初期から生き残ってきたかのように素晴らしいです。2016年に最初のDGX1を納品しました。2022年に私たちはCambrianの時代を迎えています。
ですので、よく思い悩む質問をさせていただきます。直属の部下60人のリーダーシップのもと、現在のお仕事をどれだけの間続けることができますか？あなたはどこにでもいます。あなたがこの革命をけん引しています。楽しんでいますか？他にやりたいことはありますか？
黄仁勋:
この質問は過去1時間半に関するものです。「とても楽しく過ごしています」と回答いたします。素晴らしい時間でした。他にやりたいことが想像できません。さて、考えてみましょう。私たちの仕事が常に楽しいという印象を与えるべきではないと思います。私の仕事は常に楽しいわけではないし、常に楽しいとも期待していません。以前は仕事が常に楽しいと期待していたでしょうか？それはとても重要だと思います。
はい、私は自分に対して厳格過ぎることはありません。仕事には真剣に取り組んでいます。責任感、貢献度、そして時刻に真剣に取り組んでいます。
それは常に楽しいですか？いいえ。しかし、ずっと好きでしたか？はい。家族、友人、子供など、すべてのことと同様、それは常に楽しいですか？いいえ。しかし私たちはいつもそれを楽しんでいますか？絶対に。
ですので、私は、私はいつまでできるか？真の問題は、いかにして今後も関連性を保ち続けられるかです。これが最も重要であり、この問題の答えは私がどのように学び続けるかだけです。今日はより楽観的です。今日のトピックだけでなく、関連性や学び続ける能力について、私は以前よりも楽観的です。AIを理由に。AIを毎日使用しております、皆さんもお使いでしょう。私はほぼ毎日それを使用しています。
私がAIを関与させない研究はひとつもありません。はい、どんなに答えを知っていても、AIを何度もチェックします。驚くべきことに、次に尋ねる2、3の質問は、私が知らなかったことを明らかにしました。自分のトピックを選びなさい。AIは導師だと考えています。
人工知能は助手であり、パートナーです。一緒に知恵を集めて、私の仕事をチェックします。みなさん、これはまさに革命的です。私は情報労働者です。私がアウトプットするのは情報です。だから彼らが社会に貢献していると考えています。だから、もしそうならば、この関連性を維持し、貢献し続けることができれば、この仕事が重要であることを知っています。はい、私は続けたいと思います。私の生活の質は信じられないほどです。だから、続けます。
Brad Gerstner：
数十年間、この分野で一緒に働いてきたあなたと私、この瞬間を見逃すことが考えられません。これは私たちの職業生涯で最も重要な時です。この連携関係に対して心から感謝しています。
黄仁勋:
未来の十年を想い出して。
Brad Gerstner：
思考パートナーシップ。そうです、あなたは事柄をより賢くしてくれます。ありがとうございます。あなたがリーダーシップの一部として重要だと思います。そうですね、これにより楽観的で確実にすべてを前進させていくでしょう。だから、ありがとう。
黄仁勋:
あなたたちと一緒にいると本当に幸せです。本当に。ありがとう。
