Meta 报告称 H100 每 3 小时崩溃一次

$英伟达(NVDA.US)$当 Meta 正在为 Llama 3 训练大规模语言模型时，很明显它经常出现 H100 GPU 故障。在使用 16,384 个 H100 80GB GPU 进行训练期间，意外组件故障平均每 3 小时发生一次。一半以上的惊人故障频率是由于 GPU 或内存造成的。