AI シリーズ | ChatGPT のコストはどのくらいですか?1年間のランニングコストは最大4億7,500万米ドル
ChatGPTの主な費用はどのくらいですか？最も重要なコストには、コンピューティングリソースコスト（つまり、トレーニングコスト）とランニングコストが含まれます。さらに、研究開発投資（主に研究開発人件費）があります。
1、まず、運用コストを計算しましょう。年間運用コストは4億7,470万米ドルにもなります。
1 台の Nvidia A100 GPU で ChatGPT に 1 つの単語を印刷するのに最大 350 ミリ秒かかることがあります。 チャットGPTはGPT-3.5から進化したものなので、1,750億のパラメータがあるはずです。トレーニングデータは約45億TBです。また、30億個のパラメーターモデルでは、NVIDIA A100 GPU（半精度+TensorRT+アクティベーションキャッシュ）で約6ミリ秒でトークンを生成できます。この速度を参考にすると、1 台の Nvidia A100 GPU で ChatGPT に 1 つの単語を印刷するのに 350 ミリ秒かかることがあります。
最新バージョンのChatGPT-3.5には1,750億を超えるパラメーターがあるため、1つのクエリの出力を取得するために必要な操作を実行するには、約5つのA100 GPUが必要です。ChatGPTが毎秒約15〜20ワードを出力する能力を利用すると、平均で少なくとも8個のA100 GPUが得られました。
ChatGPTで生成される各単語の費用は0.0003ドルです。 マイクロソフトの現在のレートを考慮すると、1つのNvidia A100 GPUのコストは1時間あたり3ドルです。350ミリ秒で単語を生成する速度に応じて、1時間あたりに生成できる単語数を計算できます。最後に、ChatGPTで生成される各単語のコストは0.0003ドルです。
各クエリのコストは0.01ドル近くです。 Chat-GPTがユーザーのクエリに毎回約30語で返信する必要があることを考えると、クエリあたり0.01ドル近くの費用がかかります。Google検索のコストの3倍です。
1日の運用コストは130万ドルにも上ります。 UBSの統計によると、Chat-GPTの月間アクティブユーザー数は1月に1億人に達すると予想されており、毎日約1,300万人が利用しています。したがって、1,300万人の計算に基づくと、各人が1日に10回クエリを実行すると、1日あたり1億3000万クエリが発生し、各クエリのコストは0.01米ドルで、最終的な1日のコストは130万米ドルにもなります。
年間365日で計算すると、年間ランニングコストは4億7,470万ドルにも上り、非常に高額です。
2、コンピューティングリソースのコスト（トレーニングコストなど）：1回の反復のコストは460万ドルにもなります。
ChatGPTのような大規模な言語モデルでは、トレーニングに少なくとも数千のGPUグラフィッククラスターが必要であり、構築コスト自体が非常に高く、計算回数にも一定の制限があります。一定回数の計算の後、リソースは使い果たされます。この時点で、新しいものを構築する必要があります。GPU クラスタ。
1回の反復のトレーニングコストで考えると、少なくとも10回から数十回のトレーニングには460万米ドルの費用がかかります。たとえ10回しかなかったとしても、コストは4600万米ドルに達するでしょう。
3、まとめ
このような高価なChatGPTは、その後の商品化にはより良いアイデアが必要であることを意味します。多くの場合、AI技術が要件を満たしていないということではなく、実際には手ごろな価格ではありません。人件費に比べると、今のAIはまだまだ高すぎます。そのため、一部のジェネレーティブ AI 企業は破産を宣言し、Open AI は資金調達のためにマイクロソフトに売られました。
そのため、強力なAIで知られるGoogleがAIの適用において非常に保守的である理由を理解できます。なぜなら、一方では、Googleは検索独占企業を形成しており、そのような高額な費用を費やすことを望まないからです。コストが高いと利益が損なわれます。さらに、別の問題があります。chatgptを使用すると、データが間違っていることもあれば、ナンセンスなこともあることに気付くかもしれません。Googleは、これらの間違いが自社の検索ブランドに損害を与えることも懸念しています。
しかし、マイクロソフトにとって、Bingの市場シェアはすでに非常に小さいです。十分なキャッシュフローサポートがあれば、chatgptを利用して市場シェアを競います。
今回はコストについて、次回は商品化についてお話します。
免責事項：このコミュニティは、Moomoo Technologies Inc.が教育目的でのみ提供するものです。
さらに詳しい情報
コメント
サインインコメントをする
74376197 : いくつかの明確化が必要です。 5年前にGoogle Searchを離れたとき、彼らはBingがGoogle Searchから3年遅れていると考えていました。Google自体はBingが検索市場の10.5％を占めていると述べており、「非常に小さい」市場シェアではなく、成長していると思います。以前（Ruth Porat前、または「PR）」は、Googleが喜んで検索から利益を得て、それらを無料サービス（地図やGoogleドキュメントなど）に投資して、「お礼」と「ユーザーの信頼を高める」ことができました。私は2013年から2018年のGoogleにいる間にそれが話し合われているのをよく見ました。 AR（Ruth Porat後）、Googleははるかにケチであり、1つの活動からの利益を他の活動を助成するために決して使用しなくなり、Googleを遅らせ、Googleにとってより意地悪な顔をしたと述べられています。