最も強力な中国専用aiチップであるH20の性能は、H100と比較してどのようになっていますか?
ほぼ間違いなく、3つのAIチップすべてがH100の「去勢」または「縮小」バージョンであり、輸出規制に適合するために調整が行われています。その中でも、H20 AIチップはHBM3ストレージスペース96GB、メモリの帯域幅が4.0Tb/sまであるため、H100より高い性能を持っているが、総合的な計算能力は296TFLOPで性能密度は2.9にすぎない。
特定のパフォーマンス指標に関しては、H20AIチップはH100の調整後バージョンの一種である。測定団体によると、H20の組み合わせ演算能力は、H100と比較して約80%低い。この変更は、米国の輸出管理政策に関連する要件を満たすためのチップのパフォーマンスの微調整を反映しています。しかし、H20は依然として特定の状況で性能上の利点を提供しています。たとえば、推論に必要なチップの数を2から1に減らし、8ビット量子化を使用する場合、LLAMA 70Bモデルは1つのH20で効率的に実行され、2つのH100を必要としなくても済みます。これは、H20が特定のアプリケーションシナリオで依然として効果的なパフォーマンスを提供できることを示しています。
従来の算術の観点から見れば、H20はH100よりも劣化していますが、LLM推論のこの側面では、H20は実際にH100よりも20%以上高速です。H20は、2024年にリリースされるH200にいくつかの点で似ているため、H200は複雑なAIおよびHPCワークロードのための超高性能チップに重点を置いています。このため、NVIDIAのH20 AIチップは、中国に対する米国の輸出管理政策に対応して発売され、その性能はH100と比較して低下していますが、依然として特定のアプリケーションシナリオで一定レベルの効率と有用性を保持しています。
NVIDIAを含むその他の大手テック企業は、今週ラスベガスで開催されるコンシューマーエレクトロニクスショー(CES)で最新の開発を発表する予定です。同社は、RTX 4080 Super、4070 Ti Super、4070 Superを含むいくつかの最新のGPUをイベントで展示する予定です。アナリストは一般的に、NVIDIAがグローバルゲーミングハードウェアセクターで絶対的なリーダーシップポジションを維持する傾向にあると予想しています。 $エヌビディア(NVDA.US$ $アドバンスト マイクロ デバイシズ(AMD.US$
免責事項:このコミュニティは、Moomoo Technologies Inc.が教育目的でのみ提供するものです。
さらに詳しい情報
コメント
サインインコメントをする
K1 Tree Bark : 買い手が請求書を売らないと感じています。。。
望月崇凉 : 中国のインターネット大手企業はH20に興味を持っていません