隨著AI技術(shù)的飛速發(fā)展,芯片市場正迎來重大變革。中國深度求索(DeepSeek)R1等推理模型的興起,使得運(yùn)算需求從訓(xùn)練轉(zhuǎn)向推論,吸引了眾多新創(chuàng)公司和科技巨頭開發(fā)定制化AI加速器。
據(jù)摩根士丹利預(yù)測,未來幾年美國數(shù)據(jù)中心超過75%的電力和運(yùn)算需求將來自推論,可能帶來數(shù)千億美元商機(jī)。
巴克萊銀行預(yù)測前沿AI的推論資本支出將從2025年的1226億美元,躍升至2026年的2082億美元。然而,NVIDIA雖然在AI訓(xùn)練市場占據(jù)主導(dǎo)地位,但在推論運(yùn)算方面可能面臨挑戰(zhàn),其市占率可能僅為50%。
許多財(cái)星500強(qiáng)企業(yè)希望使用生成式AI技術(shù),但又不想自建AI基礎(chǔ)設(shè)施,這為芯片新創(chuàng)公司提供了機(jī)會。D-Matrix、Cerebras等公司認(rèn)為,針對推論優(yōu)化的芯片能更高效地完成任務(wù)。
AI推論階段更注重回應(yīng)速度,存儲器傳輸速度成為影響推論效能的關(guān)鍵。D-Matrix已推出首款推論產(chǎn)品Corsair,由臺積電制造。
此外,云端供應(yīng)商也在積極開發(fā)自家AI加速器,以降低對NVIDIA高端GPU的依賴。面對競爭,NVIDIA強(qiáng)調(diào)自家芯片在訓(xùn)練和推論方面都很強(qiáng)大,且已大幅提升推論效能。
本文鏈接:http://www.www897cc.com/showinfo-27-136655-0.htmlAI推論芯片市場爭奪激烈,數(shù)千億美元商機(jī)浮現(xiàn)
聲明:本網(wǎng)頁內(nèi)容旨在傳播知識,若有侵權(quán)等問題請及時與本網(wǎng)聯(lián)系,我們將在第一時間刪除處理。郵件:2376512515@qq.com