英偉達推出下一代ai處理器H200。
新款H200 gpu是目前H100的升級產品。新gpu首次採用了一種名為HBM3e的記憶體規格，將H200 gpu的記憶體帶寬從H100的3.35Tb/s增加到4.8Tb/s，總記憶體容量從上一代產品的80Gb增加到141Gb。與A100相比，帶寬增加了2.4倍，容量幾乎翻倍。在性能方面，H200相比H100提升了60%至90%，而Llama 2（一個700億參數的LLM）的推論速度幾乎翻倍。