In a bid to challenge $NVIDIA (NVDA.US)$'s AI dominance, Asian startups are developing more energy-efficient and cost-effective chips for specific artificial intelligence applications.
What Happened: Asian startups are challenging Nvidia's AI dominance by developing more energy-efficient and cost-effective chips for specific AI applications. These startups are targeting the gap in the market left by Nvidia's high energy consumption and bulky design, reported Nikkei Asia on Friday.
These startups are focusing on two types of AI chips: "inference" chips, used to operate existing AI models, and "training" chips, high-powered data-processing components used to develop new AI models.
While Nvidia's GPUs continue to dominate the AI landscape, the startups believe that their GPUs' high energy consumption and bulky design leave a gap in the market that they can fill.
These startups believe that Nvidia's GPUs, while powerful, are too energy-intensive and expensive for many applications. Preferred Networks (PFN) CEO Toru Nishikawa stated, "No one has come up with the perfect chip architecture for inference." PFN is developing chips that aim to be more efficient and less costly than Nvidia's offerings.
Nvidia's GPUs are primarily used for training AI models, but their high cost and energy consumption make them impractical for devices like laptops and wearables. Analysts, including Kazuhiro Sugiyama from Omdia, believe that the demand for on-device AI will rise, encouraging new entrants to the market.
Startups such as Edgecortix, led by Sakyasingha Dasgupta, are focusing on solving issues like the "memory wall" problem to create more streamlined and energy-efficient AI chips. These efforts are part of a broader strategy to cater to the growing demand for AI in industrial applications and robotics, particularly in Asia, according to the report.
"Nvidia's GPU is mainly suited for training, but we are seeing more newcomers developing chips which can target both training and inference," Sugiyama said.
Other companies entering the market include U.S.-based SambaNova Systems, backed by $SoftBank Group (9984.JP)$'s Vision Fund; Tenstorrent, founded by a former $Intel (INTC.US)$ engineer; and the British company Graphcore, recently acquired by $SoftBank (94345.JP)$.
Big tech companies like $Alphabet-C (GOOG.US)$, $Meta Platforms (META.US)$, and $Amazon (AMZN.US)$ Web Services are also joining in, along with Nvidia's rival $Advanced Micro Devices (AMD.US)$.
Why It Matters: The competition between Nvidia and emerging Asian startups is heating up as the AI chip market continues to expand. Recently, Eric Schmidt, former CEO of Google, highlighted Nvidia as a major player in the AI sector, noting that large tech companies are planning significant investments in Nvidia-based AI data centers, potentially costing up to $300 billion.
Meanwhile, SoftBank has faced setbacks in its efforts to rival Nvidia with its own AI chip production. Negotiations with Intel reportedly fell through due to Intel's inability to meet production demands, leading SoftBank to turn to $Taiwan Semiconductor (TSM.US)$, a key Nvidia supplier.
This story was generated using Benzinga Neuro and edited by Kaustubh Bagalkote
挑戦するために $エヌビディア (NVDA.US)$アジアのスタートアップ企業は、特定の人工知能アプリケーション向けに、よりエネルギー効率が良く、コスト効率が高いチップを開発して、AI分野での支配を挑んでいます。
アジアのスタートアップは、よりエネルギー効率が良く、コスト効率の高いチップを開発することで、NvidiaのAI支配力に挑戦しています。Nikkei Asiaによると、これらのスタートアップは、Nvidiaの高いエネルギー消費量と大型デザインが市場の隙間を残していることを目指しています。
これらのスタートアップは、2種類のAIチップに注力しています。すでに存在するAIモデルを操作するための「推論」チップと、新しいAIモデルを開発するために使用される高出力データ処理部品が搭載された「トレーニング」チップです。
NvidiaのGPUがAI分野で優位に立ち続けている一方、これらのスタートアップは、GPUの高いエネルギー消費量と大型デザインから市場の隙間を見つけ出すことができると信じています。
これらのスタートアップは、NvidiaのGPUは強力ではあるが、エネルギー消費量が高すぎたり、多くのアプリケーションに対して費用がかかりすぎたりするため、多くのアプリケーションにとって適していないと考えています。Preferred Networks（PFN）のCEOである西川徹氏は、「推論のための完璧なチップアーキテクチャは誰も考案していない」と述べており、PFNは、Nvidiaの提供よりも効率的かつ安価なチップを開発することを目指しています。
NvidiaのGPUは主にAIのモデルトレーニングに使用されますが、高いコストやエネルギー消費は、ノートパソコンやウェアラブルデバイスなどのデバイスにとって実用的ではありません。OmdiaのKazuhiro Sugiyama氏を含め、アナリストはオンデバイスAIの需要が高まることを予想しており、新しい参入者が市場を刺激すると考えています。
Sakyasingha Dasgupta氏率いるEdgecortixなどのスタートアップは、「メモリウォール」などの問題を解決し、より効率的かつ省電力なAIチップを作成することに注力しています。このような取り組みは、産業用アプリケーションやロボット工学など、特にアジアでのAIの需要の増加に対応するためのものであると報告されています。
Sugiyama氏は、「NvidiaのGPUは主にトレーニングに適していますが、最近ではトレーニングと推論の両方を対象とするチップを開発する新興企業が増えています」と述べています。
その他の市場参入企業には、ビジョンファンドをバックにした米国のSambaNova Systemsや、元エンジニアによって設立されたTenstorrent、そして最近Amazon Web Servicesによって買収された英国のGraphcoreなどがあります。Nvidiaのライバルであるエヌビディアも参入しています。 $ソフトバンクグループ (9984.JP)$その他参入企業として、ビジョンファンドをバックにした米国のSambaNova Systems、元インテルのエンジニアによって設立されたTenstorrent、そして最近エヌビディアによって買収された英国のGraphcoreなどがあります。Amazon Web Servicesも参入しており、Nvidiaのライバルであるエヌビディアも参入しています。 $インテル (INTC.US)$ エンジニアによって設立されたTenstorrent、そして最近エヌビディアによって買収された英国のGraphcoreなどのその他の市場参入企業があります。ビジョンファンドをバックにした米国のSambaNova Systemsも参入しています。 $ソフトバンク 第1回社債型 優先 (94345.JP)$.
大手テック企業は$アルファベット C (GOOG.US)$, $メタ プラットフォームズ A (META.US)$、および$アマゾン ドット コム (AMZN.US)$ Amazon Web Servicesは、ナビディアのライバルである他社と共に参入しています。 $アドバンスト マイクロ デバイシズ (AMD.US)$.
AIチップ市場が拡大し続ける中、Nvidiaと新興アジア企業との競争が激化しています。最近、元Google CEOのEric Schmidt氏は、大手テック企業がNvidiaベースのAIデータセンターへの大規模投資を計画していることを強調し、投資額が最大3000億ドルになる可能性がある」と述べた。
一方、ソフトバンクは独自のAIチップ生産でエヌビディアに対抗する努力をしていますが、Intelとの交渉はIntelの生産要求を満たすことができなかったために破談になり、その後エヌビディアの主要サプライヤであるその他の企業に注目することになりました。 $タイワン・セミコンダクター・マニュファクチャリング (TSM.US)$一方、ソフトバンクは自社のAIチップ生産でエヌビディアに対抗する努力をしていますが、Intelとの交渉はIntelが生産要求を満たすことができなかったために破談になり、その後Nvidiaの主要サプライヤであるエヌビディアに転向することになりました。
この記事は、Benzinga Neuroによって生成され、Kaustubh Bagalkoteによって編集されました。
