2023年底,伴隨著代號(hào)Meteor Lake的一代酷睿Ultra處理器的發(fā)布,Intel正式提出了AI PC的新概念。
彼時(shí),乃至之后很長(zhǎng)一段時(shí)間內(nèi),很多人都存在相同的疑問(wèn):AI PC和傳統(tǒng)PC到底有何不同?它能替我的工作/生活/學(xué)習(xí)做什么?值得升級(jí)嗎?
事實(shí)上,不僅僅是廣大消費(fèi)者,從業(yè)者在AI PC興起之初也有類(lèi)似的迷茫。
但是,困難的事總是要有人去做的,未知的路總是要有人去走的。
作為AI PC的發(fā)起者,Intel憑借持續(xù)的路線圖、扎實(shí)的技術(shù)、廣泛的影響力、強(qiáng)大的號(hào)召力,聯(lián)合整個(gè)業(yè)界一起,不斷從軟硬件各個(gè)角度推進(jìn)AI PC,尤其是推動(dòng)更多的應(yīng)用開(kāi)發(fā)、場(chǎng)景落地。
令人欣喜的是,AI PC誕生還不到一年半,就已經(jīng)取得了長(zhǎng)足的進(jìn)步:
隨著Intel酷睿Ultra 200系列全線布局完畢、銳炫B系列顯卡嶄露頭角、至強(qiáng)6家族各系列陸續(xù)登場(chǎng),AI PC無(wú)論硬件產(chǎn)品還是應(yīng)用場(chǎng)景,都越來(lái)越豐富、越來(lái)越深入。雖然距離完全成熟為時(shí)尚早,但確確實(shí)實(shí)已經(jīng)邁入了全新的、實(shí)用的階段。
尤其是這個(gè)新年,我們不止有“DeepFeed”、“DeepSleep”這些傳統(tǒng)的吃吃喝喝、休閑放松,更有DeepSeek。
DeepSeek的重大意義,一方面是中國(guó)AI一次革命性的突破,另一方面是通過(guò)開(kāi)源、免費(fèi),加速了AI普惠,無(wú)論是政企學(xué)科等各種單位機(jī)構(gòu),還是個(gè)人,都可以靈活地部署自己的大模型,無(wú)論是滿(mǎn)血版、蒸餾版,還是微調(diào)、再訓(xùn)練。
DeepSeek的炸裂表現(xiàn),無(wú)疑是AI歷史上里程碑的一幕,掀起了一股新的浪潮,帶來(lái)了更多的思考,也帶來(lái)了更多的機(jī)遇。
【軟硬全棧:Intel的大模型一體機(jī)部署方案】
隨著AI大模型部署需求的高漲,尤其是DeepSeek的火爆,AI通用一體機(jī)逐漸為更多人所熟知,市場(chǎng)上也迅速出現(xiàn)了大量產(chǎn)品,不少都直接打出了“DeepSeek一體機(jī)”的標(biāo)簽。
Intel自然沒(méi)有錯(cuò)過(guò)這一波機(jī)遇,充分發(fā)揮了自己獨(dú)特的軟硬件“全家桶”優(yōu)勢(shì)。
AI一體機(jī)包括訓(xùn)推一體、模型推理、模型應(yīng)用等不同類(lèi)型,主要面向政務(wù)、金融、醫(yī)療、教育、制造等垂直行業(yè)領(lǐng)域。
它的優(yōu)點(diǎn)有三:
一是開(kāi)箱即用:硬件、模型、算法、軟件等全部集成,無(wú)需再單獨(dú)采購(gòu)、配置、安裝、調(diào)優(yōu),買(mǎi)回來(lái)就能用,大大降低使用門(mén)檻,而且因?yàn)槭潜镜鼗渴穑舆t更低,響應(yīng)更快,體驗(yàn)更流暢。
二是隱私安全:很多企業(yè)機(jī)構(gòu)的數(shù)據(jù)是不能對(duì)外的,本地化部署一體機(jī)后,可以集成本地知識(shí)庫(kù)、高效智能體,一切處理都可以在本地進(jìn)行,不會(huì)外傳。
三是高效優(yōu)化:軟硬件適配優(yōu)化更深入,可大大提高AI模型的運(yùn)行效率,從而提升工作效率。
不過(guò),DeepSeek等大模型的本地部署,也不是完全那么簡(jiǎn)單,要重點(diǎn)考慮多個(gè)因素,才能達(dá)成效率和經(jīng)濟(jì)的優(yōu)化。
比如模型大小,是滿(mǎn)血?還是蒸餾?
比如數(shù)據(jù)精度,是更精確但更好資源的FP16/BF16?還是比較均衡的FP8?抑或速度更快的INT4/FP4?甚至更低比特?
比如上下文長(zhǎng)度,16K-128K如何選擇?
比如吞吐能力,能否滿(mǎn)足時(shí)延要求?
比如響應(yīng)能力,TTFT(首個(gè)token)生成時(shí)間有沒(méi)有超過(guò)5秒?TPOT(token生成時(shí)間間隔)是否控制在100毫秒之內(nèi)?
Intel AI全家桶的優(yōu)勢(shì)恰恰就在于,無(wú)論你想部署什么樣的模型,獲得什么樣的輸出效果,無(wú)論是在邊緣側(cè)還是在端側(cè)(當(dāng)然也有云側(cè)),都可以找到適合自己的產(chǎn)品組合。
其中,至強(qiáng)一體機(jī)適合滿(mǎn)血大模型,銳炫GPU顯卡適合蒸餾模型,酷睿Ultra 200系列則適合蒸餾量化模型。
酷睿Ultra系列的全新命名,當(dāng)然不完全是改個(gè)名字那么簡(jiǎn)單,更是標(biāo)志著開(kāi)始真正進(jìn)入AI的新時(shí)代。
第一代酷睿Ultra 100H系列(代號(hào)Meteor Lake),高可提供36 TOPS算力,算是開(kāi)始入門(mén)。
第二代酷睿Ultra 200系列直接提升了一個(gè)檔次,200V系列(代號(hào)Lunar Lake)、200H系列(代號(hào)Arrow Lake-H)分別可提供高120 TOPS、99 TOPS的算力,不但可以完全滿(mǎn)足Windows 11 AI+ PC的需求,還為部署更大規(guī)模模型提供了支撐,14B蒸餾模型都可以直接搞定,保證流暢體驗(yàn)。
除了基礎(chǔ)的硬件算力,Intel還有著成熟的AI工具鏈和生態(tài)支持,總能得到先支持與好用優(yōu)化,這是競(jìng)品無(wú)法比擬的。
迄今為止,僅僅是在國(guó)內(nèi),Intel AI PC就已經(jīng)得到了40多家ISV軟件開(kāi)發(fā)生的適配支持。
Intel的銳炫GPU顯卡雖然在游戲市場(chǎng)占比不高,但是憑借先進(jìn)的架構(gòu)、大容量的顯存、完善的工具鏈支持,也悄然成為AI部署的上佳之選。
新發(fā)布的銳炫B系列,搭配酷睿Ultra 200系列處理器,單用戶(hù)單卡即可部署14B模型(FP8/INT4),雙卡的話(huà)可以支持32B+模型(INT4)。
上一代的銳炫A系列依然寶刀不老,搭配至強(qiáng)處理器可以組成四卡、八卡一體機(jī),高可以支持70B模型(FP8/INT4),這也是個(gè)非常流行的方案。
不過(guò)注意,系統(tǒng)內(nèi)存容量也是個(gè)關(guān)鍵因素,建議不少于64GB。
這是使用基于酷睿Ultra 200V系列處理器、32GB內(nèi)存的輕薄本,本地部署DeepSeek 14B模型基礎(chǔ)版,可以流暢執(zhí)行知識(shí)問(wèn)答、代碼編寫(xiě)等任務(wù),輸出速度能達(dá)到每秒10 tokens左右。
這里展示了兩個(gè)俄羅斯方塊游戲的生成,左側(cè)是正常的基礎(chǔ)版,右側(cè)則是進(jìn)階版,每隔20秒左右就會(huì)出現(xiàn)兩個(gè)新的隨機(jī)方塊,可能生成在任意落點(diǎn),從而大大增加了游戲難度。
挑戰(zhàn)本地部署DeepSeek R1 32B模型,內(nèi)存也增加到64GB,可以分配大約36GB作為核顯的顯存,生成速度可以達(dá)到每秒14 Tokens。
用它開(kāi)發(fā)小游戲,比如打磚塊、五子棋這種級(jí)別的,雖然速度說(shuō)不上飛快,但依然完全在可接受程度內(nèi),生成的小游戲也都能正常運(yùn)行。
本文鏈接:http://www.www897cc.com/showinfo-24-139694-0.htmlIntel全線進(jìn)入AI PC時(shí)代!軟硬一體 三大優(yōu)勢(shì)無(wú)敵
聲明:本網(wǎng)頁(yè)內(nèi)容旨在傳播知識(shí),若有侵權(quán)等問(wèn)題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系,我們將在第一時(shí)間刪除處理。郵件:2376512515@qq.com