AIインフラ支出ではトレーニングが推論を上回る：バーンスタイン
バーンスタイン・ソシエテ・ジェネラル・グループによると、人工知能企業が拡大し続ける大規模言語モデルの構築に躍起になる中、マイクロソフト（NASDAQ: MSFT）、アマゾン ウェブ サービス（NASDAQ: AMZN）、グーグル（ NASDAQ : GOOG）（NASDAQ: GOOGL）、メタ プラットフォーム（NASDAQ: META ）による AI インフラへの支出は、2024 年に合計 1,600 億ドルに達すると予想されています。
投資家は一般的に、推論への支出が増えると信じていたが、その分野での効率性がますます高まっていることから、バーンスタインはトレーニングのコストが大幅に増加していると主張するようになった。同社の最新データによると、推論は AI インフラ支出の約 5% を占めるにすぎない。
バーンスタインは、新しい LLM には以前のモデルに比べて約 10 倍のインフラストラクチャ コストが必要であることを発見しました。たとえば、OpenAI の GPT-2 は約 300 万ドルのコストがかかるチップ クラスターでトレーニングされましたが、GPT-3 のトレーニングには約 3,000 万ドル相当のハードウェアが必要でした。その後、GPT-4 は 25,000 個の A100 でトレーニングされ、コストは約 3 億ドルでした。
この歴史を参考に、バーンスタインは、GPT-5 のモデルをトレーニングするには、Nvidia の H100 が 10 万台必要になり、そのコストは約 30 億ドルになると判断しました。これを比較すると、OpenAI は 2024 年に 37 億ドルの売上を上げると予測されています。
投資家は一般的に、推論への支出が増えると信じていたが、その分野での効率性がますます高まっていることから、バーンスタインはトレーニングのコストが大幅に増加していると主張するようになった。同社の最新データによると、推論は AI インフラ支出の約 5% を占めるにすぎない。
バーンスタインは、新しい LLM には以前のモデルに比べて約 10 倍のインフラストラクチャ コストが必要であることを発見しました。たとえば、OpenAI の GPT-2 は約 300 万ドルのコストがかかるチップ クラスターでトレーニングされましたが、GPT-3 のトレーニングには約 3,000 万ドル相当のハードウェアが必要でした。その後、GPT-4 は 25,000 個の A100 でトレーニングされ、コストは約 3 億ドルでした。
この歴史を参考に、バーンスタインは、GPT-5 のモデルをトレーニングするには、Nvidia の H100 が 10 万台必要になり、そのコストは約 30 億ドルになると判断しました。これを比較すると、OpenAI は 2024 年に 37 億ドルの売上を上げると予測されています。
免責事項：このコミュニティは、Moomoo Technologies Inc.が教育目的でのみ提供するものです。
さらに詳しい情報
コメント
サインインコメントをする
