离开英伟达和AMD（长期）的理由

有时我在这里阅读有关GPU制造商的文章，我在想在过去的2年里有没有人尝试过按小时、每周或每月租用GPU用于AI目的？ 如果是这样，您是否曾经计算过每一次浮点运算所需收费或者整体的计算成本方向？随着人工智能成为主流且推断需求增长，你认为供需基本定律会发生什么变化？

我曾经在数据中心业务（也称为高性能计算）工作，直到去年底，我可以告诉你，英伟达A100租赁价格在过去2年已经下降了70%。你看到所有这些大量的GPU销售唯一的原因是两个：人工智能计算需求激增，和贪婪的分销商一直囤积GPU - 是的，你没听错。

我曾经卖过装备了各种GPU的服务器集装箱，例如A100，和从现货市场购买的H100（我们没有直接与英伟达打交道的成交量），我见过堆满这些GPU的仓库，等着出价最高的人。英伟达（或AMD）分销商能获得折扣和优先顺序的唯一方式是增加大订单量。虽然你听到特斯拉或亚马逊从英伟达购买价值数十亿美元的GPU的重大新闻，但是他们GPU业务的很大一部分由你从未听说过的公司分销，并通过像SMCI这样的公司制成整套系统。