前任高级职员的访谈非常有深度。 $微软 (MSFT.US)$ 负责ai芯片领域和人工智能关系的员工 $英伟达 (NVDA...

Very insightful interview with a High-Ranking Former $微软 (MSFT.US)$ employee responsible for AI on the AI chip space and its relation to $英伟达 (NVDA.US)$ :

1. COVID-19的巅峰期 $英伟达 (NVDA.US)$ 说 $微软 (MSFT.US)$ 他们说他们必须排队，因为他们的订单簿已经满了。即使在那之前， $微软 (MSFT.US)$ 前去$# $英特尔 (INTC.US)$ ，这为他们提供了一个美丽的人工智能加速器的路线图，但没有截止日期。这是不可接受的 $微软 (MSFT.US)$ .

2. 因为 $微软 (MSFT.US)$ 对过度依赖ai芯片感到担忧 $英伟达 (NVDA.US)$ 并且供应不足，他们去了 $美国超微公司 (AMD.US)$ 。与服务器-云计算合作更加困难 $美国超微公司 (AMD.US)$ 因为他们没有CUDA。他们投资了一家叫Lamini的公司，因为他们带走了CUDA并且几乎实时重新编译成了ROCm $美国超微公司 (AMD.US)$ 。大约90-95%的CUDA代码是可移植的。

3. 开始时， $微软 (MSFT.US)$ 也遇到了一些内存和过热问题， $美国超微公司 (AMD.US)$ 的MI300X。

4. 由于斗争，领导层在 决定自己建立ai芯片。他们与%紧密合作，最终有了备份。 $微软 (MSFT.US)$ 因为斗争，领导层在 决定自己建立ai芯片。他们与%紧密合作，最终有了备份。 $台积电 (TSM.US)$ 因为斗争，领导层在 决定自己建立ai芯片。他们与%紧密合作，最终有了备份。

5. 当他们开始时，他担心的是，OpenAI的Athena ASICs不会达到同等水平，不是一块很好的芯片，但他错了，因为它完全让他惊喜地以积极的方式表现出色。 $微软 (MSFT.US)$ 当他们开始时，他担心的是，OpenAI的Athena ASICs不会达到同等水平，不是一块很好的芯片，但他错了，因为它完全让他惊喜地以积极的方式表现出色。

6. $微软 (MSFT.US)$ helped OpenAI in understanding that not all of their clients will use 人工智能 chips. According to him, OpenAI decided to work on a middleware in old client-服务器-云计算 language. It's a middleware called Trident. The Trident will then manage the GPUs and the 人工智能 accelerators, whatever they are underneath for the compute. $英伟达 (NVDA.US)$ helped OpenAI in understanding that not all of their clients will use 人工智能 chips. According to him, OpenAI decided to work on a middleware in old client-服务器-云计算 language. It's a middleware called Trident. The Trident will then manage the GPUs and the 人工智能 accelerators, whatever they are underneath for the compute.

7. 他还认为像Groq这样的优秀创业公司是推断工作负载的好替代方案。他不认为超大规模的云计算公司将像过去那样依赖 $英伟达 (NVDA.US)$ 。