新華網(wǎng)北京7月9日電(記者 陳聽雨) 實(shí)現(xiàn)"國產(chǎn)算力自主可控"是確保信息安全和經(jīng)濟(jì)持續(xù)健康發(fā)展的關(guān)鍵,需要企業(yè)研發(fā)投入、人才培養(yǎng)以及創(chuàng)新生態(tài)構(gòu)建等多方面的努力。7月5日,北電數(shù)智召開“前進(jìn)·AI異構(gòu)平臺(tái)”發(fā)布會(huì)。會(huì)上,政產(chǎn)學(xué)研各領(lǐng)域嘉賓從不同角度、不同層面出發(fā),就優(yōu)化算力資源配置,推動(dòng)行業(yè)高質(zhì)量發(fā)展提供了寶貴的思路和建議。
北京電子數(shù)智科技有限責(zé)任公司首席科學(xué)家竇德景教授對(duì)前進(jìn)·AI異構(gòu)計(jì)算平臺(tái)進(jìn)行了介紹。
竇德景首先介紹了北電數(shù)智的產(chǎn)品矩陣,按照AI產(chǎn)業(yè)的技術(shù)棧,包括五大部分,分別是:星火智算、前進(jìn)平臺(tái)、寶塔框架、垂類模型矩陣,以及紅湖數(shù)據(jù)可信空間。
他介紹,前進(jìn)·AI異構(gòu)計(jì)算平臺(tái)是一個(gè)算力納管、調(diào)度平臺(tái),主要工作是對(duì)國產(chǎn)算力進(jìn)行管理,保障這些國產(chǎn)芯片能夠有序、高效地為智算中心提供算力。
“前進(jìn)·AI異構(gòu)計(jì)算平臺(tái)堅(jiān)持全棧國產(chǎn)化,旨在高效管理和調(diào)度多種類型AI計(jì)算資源,以滿足不同應(yīng)用場景下的計(jì)算需求。”竇德景說。
同時(shí),為加速人工智能產(chǎn)業(yè)發(fā)展,平臺(tái)還圍繞智算芯片、AI框架、基礎(chǔ)模型開展全面驗(yàn)證,通過場景化牽引持續(xù)優(yōu)化場景AI服務(wù)能力,推動(dòng)AI芯片快速成熟,大模型場景加速市場化應(yīng)用。
針對(duì)前進(jìn)·AI異構(gòu)計(jì)算平臺(tái)的技術(shù)領(lǐng)先性,竇德景稱,前進(jìn)平臺(tái)可以實(shí)現(xiàn)對(duì)國產(chǎn)芯片的統(tǒng)一調(diào)度和納管,具體有三個(gè)技術(shù)特色:一是前進(jìn)平臺(tái)可以納管多種國產(chǎn)算力芯片,實(shí)現(xiàn)算力統(tǒng)一管理,通過一個(gè)平臺(tái)就可以運(yùn)維、管理多種國產(chǎn)算力。其次,前進(jìn)平臺(tái)提供多種調(diào)度策略,充分發(fā)揮硬件能力,釋放智算中心產(chǎn)能,調(diào)度策略的優(yōu)劣,尤其是精細(xì)化調(diào)度,可以提升智算中心的運(yùn)行效率,效率越高也就意味著同樣的硬件設(shè)備可以服務(wù)更多的客戶。第三,平臺(tái)充分照顧廣大用戶的使用習(xí)慣,對(duì)智算中心進(jìn)行云化管理,用戶可以像使用云資源一樣靈活、彈性的使用算力資源。
竇德景表示,目前,前進(jìn)平臺(tái)已經(jīng)可以納管、調(diào)度多種國產(chǎn)芯片,算力在前進(jìn)平臺(tái)的管理下,可以更高效、穩(wěn)定地為智算中心提供服務(wù)。用戶可以采用實(shí)例租用的形式,即在平臺(tái)上開一個(gè)虛擬機(jī),自行部署開發(fā)環(huán)境。
此外,前進(jìn)平臺(tái)還提供模型適配和遷移能力,平臺(tái)提供了一個(gè)適配層,可向上兼容Pytorch、DeepSpeed等開源框架,提供兼容這些框架的接口,向下自動(dòng)適配用戶所選的國產(chǎn)算力,這樣就可以讓模型在多種國產(chǎn)算力之間自由的進(jìn)行遷移,且這種遷移用戶是完全沒有感知的。
與此同時(shí),前進(jìn)平臺(tái)提供了類似生產(chǎn)環(huán)境的評(píng)測、適配、技術(shù)驗(yàn)證平臺(tái),可以評(píng)測國產(chǎn)芯片的基礎(chǔ)性能,給出近似生產(chǎn)的環(huán)境的真實(shí)評(píng)測、驗(yàn)證數(shù)據(jù)。結(jié)合國內(nèi)主流芯片能力以及大模型參數(shù)規(guī)模,以千卡混合集群構(gòu)建近似生產(chǎn)環(huán)境驗(yàn)證平臺(tái),全面測評(píng) “千億參數(shù)模型”、“復(fù)雜場景”、“規(guī)模化集群”下的性能表現(xiàn),為業(yè)界提供權(quán)威參考,為萬卡萬億大模型的演進(jìn)方向提供經(jīng)驗(yàn)。
這些查詢接口已正式發(fā)布,用戶可以通過北京數(shù)字經(jīng)濟(jì)算力中心訪問。包括芯片的基礎(chǔ)性能、算力性能、負(fù)載性能等,都可進(jìn)行評(píng)測和查詢。
竇德景表示,目前北電數(shù)智已經(jīng)將前進(jìn)平臺(tái)部署到北京數(shù)字經(jīng)濟(jì)算力中心,一方面可以對(duì)外提供算力租用服務(wù),另一方面可以提供適配以及迭代驗(yàn)證服務(wù)。平臺(tái)初步具備國產(chǎn)“算力四力”迭代驗(yàn)證條件,并進(jìn)一步推進(jìn)迭代驗(yàn)證方法體系,形成業(yè)界認(rèn)可的公正性、權(quán)威性測試認(rèn)證品牌。
具體而言,何為“四力”呢?竇德景對(duì)此表示,一是算力,驗(yàn)證確定小規(guī)模、中規(guī)模、大規(guī)模集群場景下,芯片的計(jì)算能力;二是聯(lián)力,驗(yàn)證國產(chǎn)芯片生態(tài)算子情況,是否支持在指定、合理時(shí)間內(nèi)完成對(duì)模型和業(yè)務(wù)的支持;三是生態(tài)力,驗(yàn)證卡間通信、機(jī)間通信功能,配合網(wǎng)絡(luò)環(huán)境檢測國產(chǎn)算力網(wǎng)絡(luò)連接情況;四是供力,通過大規(guī)模芯片供應(yīng)情況,檢測國產(chǎn)算力產(chǎn)能和供應(yīng)鏈健康程度。
促進(jìn)技術(shù)創(chuàng)新與產(chǎn)業(yè)協(xié)同,充分發(fā)揮國產(chǎn)化軟硬件協(xié)同優(yōu)勢,以北電數(shù)智為代表的人工智能原生國企企業(yè),未來將持續(xù)以創(chuàng)新驅(qū)動(dòng),共同拓展行業(yè)生態(tài)合作圈,持續(xù)賦能人工智能產(chǎn)業(yè)發(fā)展。
本文鏈接:http://www.www897cc.com/showinfo-16-99878-0.html竇德景:“前進(jìn)·AI異構(gòu)計(jì)算平臺(tái)”推動(dòng)大模型場景加速市場化應(yīng)用
聲明:本網(wǎng)頁內(nèi)容旨在傳播知識(shí),若有侵權(quán)等問題請及時(shí)與本網(wǎng)聯(lián)系,我們將在第一時(shí)間刪除處理。郵件:2376512515@qq.com
上一篇: 臨汾鑼鼓直播PK大賽開鑼,千年非遺云端切磋煥發(fā)新活力
下一篇: 振興鄉(xiāng)村發(fā)展 助力青少年教育 中國三星連續(xù)十一年蟬聯(lián)企業(yè)社會(huì)責(zé)任榜外企第一