Meta H100每3小时出现一次故障的报告

$英伟达 (NVDA.US)$Meta在进行Llama 3大规模语言模型的训练时，明显受到H100 GPU频繁故障的困扰。在训练过程中，使用了16384台H100 80GB GPU，出现了平均每3小时一次的意外组件故障。超过一半的故障频率与GPU或内存有关。