share_log

推理芯片,英伟达迎来强劲对手

推理芯片,英偉達迎來強勁對手

如果您希望可以時常見面,歡迎標星 收藏哦~

來源:內容編譯自forbes,謝謝。

如果你從事金融行業,那麼有關即將進行 IPO 的 Cerebras 的新聞全部是關於該公司的股票代碼將如何在納斯達克表現。

然而,如果你對科技感興趣,故事就有點不同了。事實上,如果你只關注這些公司將如何競爭,你就真的看不到大局。

很多人都知道人工智能革命的開始是如何導致用 GPU 取代 CPU 的:GPU 是一種更復雜、更專業的邏輯處理器,適用於機器學習和相關工作。

當時,我們遵循一種非常常見的規定方法 - 輸入大量訓練數據,其中通常包括大量的網絡抓取數據 - 然後用它來測試系統。

所有這些工作都需要大量的處理能力,而 GPU 就是爲這些繁重的工作負載而構建的。

現在,該行業似乎正在進一步發展,走向所謂的推理,這是一種不同的任務,而且硬件必須更加專業化。

那麼,什麼是推論?因爲每當有人開始談論它時,你都能看到人們的眼睛都呆呆的。一般來說,除了高度科學的語境外,我們不喜歡這類詞。

嗯,無論如何,推理基本上是人工智能的動態學習能力——獲取實時數據並將其放入訓練模型中以獲得合乎邏輯的結果。

換句話說,訓練有素的人工智能正在展示它從訓練中學習到的知識。

因此,這種活動需要一些重量級的硬件:爲此,Cerebras 推出了晶圓級引擎 (WSE),對於科技愛好者來說,它的規格相當令人印象深刻。。

WSE:幕後

Cerebras 的 WSE-3 擁有 4 萬億個晶體管和數量驚人的片上內存。它擁有大約 9,000 個核心,估計每秒可執行 125 千萬億次浮點運算。

我們之前曾報道過這類巨大的多核引擎,其硬件物理上很大——以英寸而不是厘米來衡量。

Perplexity 首席技術官丹尼斯·亞拉茨 (Denis Yarats) 在一份新聞聲明中指出:「更低的延遲可以提高用戶參與度。憑藉 Cerebras 比傳統 GPU 快 20 倍的速度優勢,我們相信用戶與搜索和智能答案引擎的互動將發生根本性轉變。」

不難看出,這種力量將會爲衆多行業的人工智能發展提供強大的動力。

人工智能推理的用例

思考這個消息的一種方式是,我們只是想要更快的速度和更強大的功能來實現越來越複雜的流程。但你也可以考慮一下推理在人工智能進化的這一階段將扮演的角色。換句話說,我們正在從監督較多的學習類型轉向監督較少的學習類型——從我們 10 年前所做的那種確定性機器學習,轉向一種新型的神經網絡活動,在這種活動中,我們更信任系統能夠自行學習。

因此,Cerebras 的新挑戰的故事(更不用說另一家加入這一潮流的公司 Groq)是硬件追趕的故事。

硬件本身令人印象深刻——這些新款凱迪拉克系統引人注目——但我們應該關注的是,這些產品的用途是什麼,它們爲何會顛覆商業格局。

Run:AI 的一位作者寫道:「隨着人工智能越來越多地融入日常生活和商業運營的各個方面,高效、準確的人工智能推理的重要性日益凸顯。準確的推理在醫療保健、欺詐檢測和自動駕駛等敏感用例中尤爲重要。」

這些只是一些頂級示例:我們尚未真正發現更深層次推理模型的一些更隱蔽的用途。十年後人工智能會是什麼樣子?它看起來仍然像是從計算機中出來的嗎?還是事情會變得完全不同?

幾年前,福布斯技術委員會成員Nir Kaldero 爲我們列出了這份名單:其中一些承認具有很強的持久力,儘管考慮其中的一些很有趣。例如,雲:當然,雲的採用仍在繼續,但現在我們對於許多工作負載有一個競爭的想法。它是在邊緣、在設備上、在網絡邊緣進行處理。而且這也正在取得進展。

無論如何,硬件之爭實際上是下一代技術系統的先兆。它們將會非常引人注目。

參考鏈接

声明:本內容僅用作提供資訊及教育之目的,不構成對任何特定投資或投資策略的推薦或認可。 更多信息
    搶先評論