放棄NVDA和AMD的理由（長期）

有時候在這裡讀到的GPU製造商，我在想你們有沒有試過在過去兩年租用GPU按小時或週或月的方式進行人工智能用途？ 如果是這樣，您有沒有計算過每個FLOP的價格或者整體計算力價格的變化方向？隨著人工智能變得普及，推論需求增加，您認為供需基本法則會發生什麼變化？

我曾經是數據中心業務（也就是高性能計算）的一員，直到去年底，我可以告訴您，過去兩年Nvidia A100租賃價格壓縮了70%。您現在看到的大量GPU銷售只有兩個原因：人工智能計算需求激增，而貪婪的分銷商一直在囤積GPU——是的，您沒聽錯。

我曾經賣過裝有各種GPU（如A100和從二級市場購買的H100）的整箱服務器，我見過倉庫裡擺滿了這些GPU，等待出價最高的買家。Nvidia（或者AMD）的分銷商能夠獲得折扣和優先權的唯一方式就是下大單。雖然您聽到關於TSLA或AMZN從NVDA購買價值幾十億的GPU的大新聞，但很大一部分他們的GPU業務是由您從未聽說過的公司分銷的，並且通過像SMCI這樣的公司制作成完整的系統。