元高官の非常に洞察に富むインタビュー $マイクロソフト (MSFT.US)$ AIチップの領域と、それが人工知能に与える...

非常に洞察に満ちた元高官のインタビュー $マイクロソフト (MSFT.US)$ AIチップスペースとそれに関する従業員の関係についてのAIに責任を持つ従業員による非常に洞察に満ちたインタビュー $エヌビディア (NVDA.US)$ :

1. COVIDのピーク時に $エヌビディア (NVDA.US)$ 言われていた $マイクロソフト (MSFT.US)$ 彼らは注文の手帳がいっぱいだったために並ばなければならなかった。それ以前にも $マイクロソフト (MSFT.US)$ 彼らは$#に行った $インテル (INTC.US)$ 、それは彼らにAIアクセラレータの美しいロードマップを与えたが、期限はなかった。それは受け入れられなかった $マイクロソフト (MSFT.US)$ .

2. なぜなら $マイクロソフト (MSFT.US)$ 過度に依存していることを心配していた $エヌビディア (NVDA.US)$ を十分に供給していないと考え、に行きました。 $アドバンスト・マイクロ・デバイシズ (AMD.US)$ と一緒に仕事をするのは難しかった $アドバンスト・マイクロ・デバイシズ (AMD.US)$ 、CUDAを持っていないため、作業がより困難でした。 $アドバンスト・マイクロ・デバイシズ (AMD.US)$ のROCmにほぼリアルタイムで再コンパイルされたLambdaを受け取ったため、Laminiという会社に投資しました。CUDAコードの90-95%が移植可能でした。

3.スタート時に、 $マイクロソフト (MSFT.US)$ のメモリと過熱の問題も抱えていました $アドバンスト・マイクロ・デバイシズ (AMD.US)$ のMI300Xと。

4. 困難のため、リーダーシップの%sは自分たちのASICを作ることを決定しました。 $マイクロソフト (MSFT.US)$ 組織は%sと緊密に連携して、バックアップを持つことに成功しました。 $台湾セミコンダクター・マニュファクチャリング (TSM.US)$ 5. スタートした時、彼は%sのAthena ASICが優れたチップではないのではないかと心配していましたが、彼は間違っており、それは彼を驚かせるほどに素晴らしいチップでした。

オープンAIは、彼らのすべてのクライアントがaiチップを使用しないことを理解するのに%sの助けを借りました。 $マイクロソフト (MSFT.US)$ 彼によれば、OpenAIは旧来のクライアントサーバープログラミング言語でのミドルウェアに取り組むことを決定しました。そのミドルウェアの名前はTridentです。Tridentは、GPUとAIアクセラレータを管理します。それらは計算の基盤です。

$マイクロソフト (MSFT.US)$ 4. The third reason is because of %, they will build their own ASIC. $エヌビディア (NVDA.US)$ % will manage the GPUS and AI accelerators to ensure the compute is handled efficiently by the Trident middleware.

彼はまた、Groqのような優れたスタートアップを推論ワークロードの良い代替手段と見ています。彼は過去のように将来もハイパースケーラーが依存することはないと思っています。 $エヌビディア (NVDA.US)$ 過去ほど将来にはハイパースケーラーは依存しないと彼は考えています。