xAI推出的Grok 3號稱地表最強(qiáng)AI,但訓(xùn)練過程中遭遇供電和散熱兩大難題。為解決這些問題,xAI采用了液冷散熱系統(tǒng),成功突破運(yùn)算瓶頸。
xAI的Grok 3采用NVIDIA的H100芯片,而液冷散熱系統(tǒng)的引入,使得xAI的數(shù)據(jù)中心能夠發(fā)揮更高的算力。據(jù)xAI團(tuán)隊(duì)透露,訓(xùn)練Grok 2時(shí),由于散熱和供電限制,只能發(fā)揮80%的算力。
現(xiàn)在,xAI已擁有20萬顆H100芯片用于訓(xùn)練Grok 3,這得益于Musk決定自建數(shù)據(jù)中心,并采用了液冷散熱技術(shù)。
xAI的數(shù)據(jù)中心位于美國田納西州曼菲斯,由Supermicro提供液冷散熱機(jī)柜。Supermicro的4U高度H100機(jī)柜內(nèi)含64顆H100 GPU,且原本就留有液冷散熱孔洞,方便客戶轉(zhuǎn)換散熱方式。
業(yè)界認(rèn)為,AI的發(fā)展將推動(dòng)液冷散熱市場的快速增長。隨著AI服務(wù)器TDP的提升,氣冷散熱已接近極限,而液冷散熱成為必然選擇。xAI的Grok 3成功采用液冷散熱,再次凸顯了液冷散熱在AI數(shù)據(jù)中心中的重要性。
本文鏈接:http://www.www897cc.com/showinfo-27-132168-0.htmlxAI Grok 3突破訓(xùn)練難關(guān),液冷散熱成關(guān)鍵
聲明:本網(wǎng)頁內(nèi)容旨在傳播知識,若有侵權(quán)等問題請及時(shí)與本網(wǎng)聯(lián)系,我們將在第一時(shí)間刪除處理。郵件:2376512515@qq.com
上一篇: 聯(lián)發(fā)科分紅縮水,持續(xù)在全球擴(kuò)編技術(shù)團(tuán)隊(duì)成主因