DeepSeek-R1的成功引發(fā)業(yè)界熱議,標(biāo)志著AI前景從訓(xùn)練轉(zhuǎn)向推論,推論算力需求隨之增大。NVIDIA等芯片巨頭因此受益,中國本土AI芯片業(yè)者也看到了機(jī)遇,紛紛主動(dòng)接入DeepSeek模型。
然而,盡管中國多家AI芯片廠商在短時(shí)間內(nèi)完成了對(duì)DeepSeek模型的兼容,但與NVIDIA相比仍有較大差距。開源中國董事長馬越指出,本土芯片兼容開源模型的數(shù)量遠(yuǎn)少于NVIDIA。
上海交通大學(xué)副教授戴國浩解釋,DeepSeek通過PTX語言優(yōu)化,讓系統(tǒng)和模型能夠釋放底層硬件效能,而這是大部分深度學(xué)習(xí)或大模型演算法工程師不會(huì)接觸的層面。
中國本土AI芯片業(yè)者競相接入DeepSeek背后,關(guān)鍵在于AI芯片是否兼容CUDA。沐曦技術(shù)長楊建表示,能兼容CUDA的廠商間兼容程度也有不同。完成兼容和優(yōu)化速度對(duì)LLM能否及時(shí)上線并完成商業(yè)轉(zhuǎn)化至關(guān)重要。
本文鏈接:http://www.www897cc.com/showinfo-27-130748-0.htmlDeepSeek引領(lǐng)AI推論算力需求,中國本土AI芯片業(yè)者積極接入
聲明:本網(wǎng)頁內(nèi)容旨在傳播知識(shí),若有侵權(quán)等問題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系,我們將在第一時(shí)間刪除處理。郵件:2376512515@qq.com