【ITBEAR】9月25日消息,今日,百度云智大會(huì)順利舉行,會(huì)上,百度智能云宣布其百舸AI異構(gòu)計(jì)算平臺已成功升級至4.0版本,標(biāo)志著該平臺在技術(shù)與性能上邁出了重要一步。
據(jù)ITBEAR了解,百舸4.0版本的重點(diǎn)升級在于“多芯混訓(xùn)”能力,現(xiàn)已實(shí)現(xiàn)在萬卡規(guī)模集群上達(dá)到95%的多芯混合訓(xùn)練效能,顯著提升了訓(xùn)練效率。此外,在集群部署環(huán)節(jié),升級后的百舸平臺展現(xiàn)出了卓越的性能,能夠?qū)⑷f卡集群的運(yùn)行準(zhǔn)備時(shí)間從數(shù)周縮短至最快1小時(shí),極大地提高了部署效率。
針對大模型訓(xùn)練過程中常見的故障問題,百舸4.0也進(jìn)行了全面的優(yōu)化。通過升級故障檢測手段和自動(dòng)容錯(cuò)機(jī)制,該平臺有效降低了故障發(fā)生的頻次,并大幅減少了集群故障的處理時(shí)間,確保了萬卡集群上超過99.5%的有效訓(xùn)練時(shí)長。
在模型推理方面,百舸4.0版本同樣帶來了顯著的優(yōu)化。通過對推理速度和成本的全面調(diào)整,該平臺的長文本推理效率提升了1倍以上,為用戶提供了更加高效、經(jīng)濟(jì)的推理解決方案。
此次百舸AI異構(gòu)計(jì)算平臺的升級,無疑將進(jìn)一步推動(dòng)AI技術(shù)的發(fā)展與應(yīng)用,為用戶提供更加高效、穩(wěn)定的計(jì)算服務(wù)。
#百度智能云# #百舸AI異構(gòu)計(jì)算平臺# #多芯混訓(xùn)# #模型推理# #集群部署#
本文鏈接:http://www.www897cc.com/showinfo-45-7682-0.html百度百舸AI計(jì)算平臺4.0發(fā)布,AI領(lǐng)域又有新突破?
聲明:本網(wǎng)頁內(nèi)容旨在傳播知識,若有侵權(quán)等問題請及時(shí)與本網(wǎng)聯(lián)系,我們將在第一時(shí)間刪除處理。郵件:2376512515@qq.com