日韩成人免费在线_国产成人一二_精品国产免费人成电影在线观..._日本一区二区三区久久久久久久久不

當(dāng)前位置:首頁(yè) > 科技  > 軟件

生成式 AI 算力新臺(tái)階,第五代至強(qiáng)可擴(kuò)展處理器詳解

來(lái)源: 責(zé)編: 時(shí)間:2024-03-21 09:43:54 183觀看
導(dǎo)讀 如今 AI 的生意越做越大,從出圈爆火,到千行百業(yè)都開(kāi)始擁抱 AI,越來(lái)越多的企業(yè),都會(huì)將 AI 導(dǎo)入到他們的生意模式當(dāng)中。預(yù)計(jì)到 2026 年有超過(guò) 3000 億美金將投入到生成式 AI 當(dāng)中,這其中包括硬件、軟件、解決方案等

如今 AI 的生意越做越大,從出圈爆火,到千行百業(yè)都開(kāi)始擁抱 AI,越來(lái)越多的企業(yè),都會(huì)將 AI 導(dǎo)入到他們的生意模式當(dāng)中。預(yù)計(jì)到 2026 年有超過(guò) 3000 億美金將投入到生成式 AI 當(dāng)中,這其中包括硬件、軟件、解決方案等。50% 以上的邊緣應(yīng)用也會(huì)采用 AI 技術(shù)。到 2028 年有 80% 以上的 PC 都會(huì)轉(zhuǎn)換成 AI PC,通過(guò) AI 可以提升大家在 PC 上的生產(chǎn)力。還有 80% 以上的公司,也會(huì)在 2026 年之前會(huì)導(dǎo)入某種程度的生成式 AI 以提高企業(yè)生產(chǎn)力。9f428資訊網(wǎng)——每日最新資訊28at.com

各行各業(yè)都在積極的擁抱 AI,這離不開(kāi)強(qiáng)大的算力支持,英特爾在去年 AI 風(fēng)頭正勁的時(shí)候推出了第五代英特爾至強(qiáng)可擴(kuò)展處理器,為云端 AI 能力帶來(lái)了全新的體驗(yàn)。9f428資訊網(wǎng)——每日最新資訊28at.com

9f428資訊網(wǎng)——每日最新資訊28at.com

第五代至強(qiáng)最多擁有 64 個(gè)核,并引入了諸多 AI 特性,如 AMX、AVX-512 指令集等,并通過(guò)性能的提升,對(duì)生成式 AI 應(yīng)用帶來(lái)更快的體驗(yàn)。第五代至強(qiáng)可擴(kuò)展處理器內(nèi)存達(dá) 5600MT/s,三級(jí)緩存進(jìn)一步提升,加速處理器的數(shù)據(jù)交換。在軟件生態(tài)上英特爾也進(jìn)行了很大投入,目前,英特爾上傳了 300 個(gè)以上的深度學(xué)習(xí)模型到社區(qū),也支持了 50 個(gè)以上的基于機(jī)器學(xué)習(xí)的、且基于第五代至強(qiáng)優(yōu)化過(guò)的模型,這些開(kāi)發(fā)者都可以調(diào)用。針對(duì)開(kāi)發(fā)者,英特爾同步更新了其 AI 開(kāi)發(fā)軟件,可以在第五代至強(qiáng)上的應(yīng)用做到較大優(yōu)化,針對(duì)主流大模型、生成式 AI 模型的框架,如 PyTorch 和 TensorFlow,可以無(wú)縫拓展至英特爾至強(qiáng)可擴(kuò)展處理器上。9f428資訊網(wǎng)——每日最新資訊28at.com

針對(duì)第五代至強(qiáng)可擴(kuò)展處理器的諸多變化,英特爾市場(chǎng)營(yíng)銷集團(tuán)副總裁、中國(guó)區(qū)數(shù)據(jù)中心銷售總經(jīng)理兼中國(guó)區(qū)運(yùn)營(yíng)商銷售總經(jīng)理莊秉翰表示,“基于硬件和軟件的優(yōu)化,第五代至強(qiáng)和第四代至強(qiáng)相比,在 AI 訓(xùn)練、實(shí)時(shí)推理、批量推理上,基于不同的算法,都可以看到不同性能的提升,最高可提升 40%。”9f428資訊網(wǎng)——每日最新資訊28at.com

9f428資訊網(wǎng)——每日最新資訊28at.com

莊秉翰表示,“對(duì)新興的,尤其是基于云原生的設(shè)計(jì),我們提供能效核,每瓦性能可以做到相對(duì)極致,而且因?yàn)樗暮吮容^精簡(jiǎn),可以放更多高密度的核數(shù)到每一款的 CPU 和服務(wù)器,所以它會(huì)支持面向云的高密度超高能效的運(yùn)算進(jìn)行能效的優(yōu)化。在近期對(duì)于產(chǎn)品淘汰換新的要求中,有一個(gè)重要考量因素就是能效比,而我們?cè)诮衲晖瞥龅哪苄Ш耍彩欠蠂?guó)家對(duì)設(shè)備淘汰換新的要求。”9f428資訊網(wǎng)——每日最新資訊28at.com

?第五代至強(qiáng)大調(diào)整,性能更強(qiáng)功耗控制更好

第五代英特爾至強(qiáng)可擴(kuò)展處理器帶來(lái)了五項(xiàng)升級(jí),在制程工藝方面,第五代至強(qiáng)采用 Intel 7 制程,從第四代至強(qiáng)到第五代至強(qiáng),英特爾也關(guān)鍵的技術(shù)指標(biāo)做了改進(jìn),特別是在系統(tǒng)的漏電流控制和動(dòng)態(tài)電容方面,這兩方面的指標(biāo)都對(duì)整個(gè)晶體管的性能表現(xiàn)有比較大的影響。通過(guò)這些調(diào)整,整體上第五代至強(qiáng)在同等功耗下的頻率可以提升 3%。9f428資訊網(wǎng)——每日最新資訊28at.com

9f428資訊網(wǎng)——每日最新資訊28at.com

芯片布局方面,通過(guò)把四片芯片改成兩片芯片的設(shè)計(jì),可以更好的對(duì)芯片的面積進(jìn)行控制。通過(guò) MDF 和 SCF 連接,在第五代至強(qiáng)可進(jìn)一步實(shí)現(xiàn)芯片之間的高效互連。9f428資訊網(wǎng)——每日最新資訊28at.com

在關(guān)鍵表現(xiàn)上,第五代至強(qiáng)做了如下調(diào)整:9f428資訊網(wǎng)——每日最新資訊28at.com

?升級(jí)到 Raptor Cove 核心。9f428資訊網(wǎng)——每日最新資訊28at.com

?核心數(shù)增加,從最多的 60 核升級(jí)到 64 核。9f428資訊網(wǎng)——每日最新資訊28at.com

?LLC 大小從 1.875MB 增加到 5MB。9f428資訊網(wǎng)——每日最新資訊28at.com

?DDR 速度從 4800MT/s提升到了 5600MT/s。9f428資訊網(wǎng)——每日最新資訊28at.com

?UPI 速度從 16GT/s提升到 20GT/s。9f428資訊網(wǎng)——每日最新資訊28at.com

?SoC 芯片拓?fù)浣Y(jié)構(gòu)更改,4 芯片封裝改為 2 芯片封裝。9f428資訊網(wǎng)——每日最新資訊28at.com

?待機(jī)功耗降低。9f428資訊網(wǎng)——每日最新資訊28at.com

待機(jī)功耗下降是通過(guò)英特爾全集成供電模塊(FIVR),實(shí)現(xiàn)不同場(chǎng)景下節(jié)電優(yōu)化。在性能能效方面,與第四代至強(qiáng)相比,第五代至強(qiáng)有兩個(gè)數(shù)據(jù)提升比較明顯,一個(gè)是常規(guī)的整數(shù)計(jì)算,第五代至強(qiáng) SPEC integer 和整數(shù)相關(guān)的一系列的性能評(píng)價(jià)指標(biāo)有 21% 的提升。針對(duì) AI 負(fù)載,性能提升更多達(dá)到 42%。9f428資訊網(wǎng)——每日最新資訊28at.com

為了達(dá)到這一性能提升,英特爾引入了新的 Raptor cove 核心并將四芯片封裝改成兩個(gè)芯片,這樣可以減少芯片間的功耗,把更多功耗放在處理器的性能提升上。另外,DDR 的頻率以及 LLC 的提升,這些都是和內(nèi)存帶寬相關(guān)的業(yè)務(wù),有更好的性能表現(xiàn)。9f428資訊網(wǎng)——每日最新資訊28at.com

在三級(jí)緩存上,第五代至強(qiáng)每個(gè)模塊的三級(jí)緩存容量達(dá)到了 5MB,所以這款芯片有高達(dá) 320MB 緩存,如果數(shù)據(jù)集不是很大,大部分的數(shù)據(jù)都可以放在 LLC 緩存當(dāng)中,大量減少對(duì)內(nèi)存的訪問(wèn)。而在數(shù)據(jù)停留在緩存里面和到內(nèi)存去訪問(wèn),能帶來(lái)的性能收益是比較大的。第五代至強(qiáng)在設(shè)計(jì)上做到同頻同延遲下密度提升 30%。9f428資訊網(wǎng)——每日最新資訊28at.com

內(nèi)存方面,第五代至強(qiáng) DDR 速度從 4800MT/s提升到 5600MT/s,英特爾做了很多優(yōu)化,包括一些 MIM 的內(nèi)存、基板上走線的提升以及片上的低噪聲的供電措施等,還通過(guò) DFE 功能盡可能的減少碼間干擾(ISI)。9f428資訊網(wǎng)——每日最新資訊28at.com

軟件解決方案發(fā)展迅速,充分利用第五代至強(qiáng)性能

如今數(shù)字化又有了新的需求,英特爾通過(guò)新的計(jì)算范式支持新的數(shù)字化需求。云計(jì)算是 AI 時(shí)代離不開(kāi)的話題,AI 時(shí)代下,存在三個(gè)瓶頸,一是算力,二是數(shù)據(jù),三是工程化能力。到了 AI 時(shí)代,數(shù)據(jù)中心的耗電量問(wèn)題,也是擺在企業(yè)面前的一座大山。如何提升能效?英特爾的技術(shù)專家提出兩種方式,一是為前端客戶提供智能,二是自身的底層設(shè)施智能化。在過(guò)去的 10 年,英特爾致力于構(gòu)建一個(gè)完備的生態(tài),通過(guò)軟、硬件結(jié)合幫助生態(tài)合作伙伴們充分挖掘和利用底層 CPU 能力。9f428資訊網(wǎng)——每日最新資訊28at.com

第五代至強(qiáng)可擴(kuò)展處理器在 AI 推理訓(xùn)練上最高提升了 14 倍,基礎(chǔ)架構(gòu)的存儲(chǔ)能夠達(dá)到 2.8 倍,網(wǎng)絡(luò)邊緣可以達(dá)到 3.2 倍,高性能計(jì)算能達(dá)到 3 倍,數(shù)據(jù)分析可以達(dá)到 3.7 倍,這些綜合起來(lái)可以獲得了多維度的提升,L3 緩存增加,受益最大的是數(shù)據(jù)庫(kù),AI 和大數(shù)據(jù)分析也會(huì)從 L3 的提升中受益。核數(shù)增加之后,“紅利”最大的是科學(xué)計(jì)算和大數(shù)據(jù)。核之間 UPI 總線也會(huì)越來(lái)越快,所以核數(shù)多少對(duì)于 AI / 大數(shù)據(jù)比較重要。當(dāng)然若是底層主頻高了,內(nèi)存帶寬大了,4800MT/s提升至 5600MT/s了,那么大家都能獲益。在 AI 當(dāng)中,通過(guò)英特爾 AMX 加速器專門(mén)針對(duì)矩陣運(yùn)算,性能便會(huì)大幅提升。9f428資訊網(wǎng)——每日最新資訊28at.com

英特爾在第五代至強(qiáng)產(chǎn)品上充分挖掘 CPU 的能力,通過(guò)不同層次的深度挖掘,讓 CPU 更適合 AI 場(chǎng)景,成為 AI 時(shí)代全能的大俠。9f428資訊網(wǎng)——每日最新資訊28at.com

9f428資訊網(wǎng)——每日最新資訊28at.com

第五代至強(qiáng)可擴(kuò)展處理器將持續(xù)保持至強(qiáng)平臺(tái)性能的領(lǐng)先地位,與第四代至強(qiáng)可擴(kuò)展處理器相比,其 AI 推理的高性能提升高達(dá) 42%,通用計(jì)算性能增益 21%。9f428資訊網(wǎng)——每日最新資訊28at.com

英特爾擁有開(kāi)放的生態(tài),也幫助行業(yè)伙伴直接使用,并很好帶動(dòng)整個(gè)生態(tài)的發(fā)展。英特爾始終致力于在 CPU 上部署 AI,并基于 OpenVINO 對(duì)整個(gè)模型進(jìn)行優(yōu)化、量化。包括推薦、語(yǔ)音識(shí)別、圖像識(shí)別、基因測(cè)序等,英特爾均做了大量的優(yōu)化,尤其是推薦系統(tǒng),其模型非常大,當(dāng) GPU 無(wú)法運(yùn)行的時(shí)候,用 CPU 反而是主流的。因?yàn)?GPU 不夠的時(shí)候,就意味著需要跨 GPU,或者說(shuō)和 CPU 有頻繁交互。那么,跟主存有頻繁交互的時(shí)候,實(shí)際上使用 CPU 會(huì)更快。因此,對(duì)于推薦系統(tǒng)、大模型、稀疏矩陣等,用 CPU 效率更高。9f428資訊網(wǎng)——每日最新資訊28at.com

9f428資訊網(wǎng)——每日最新資訊28at.com

對(duì)于通用的 AI 工作負(fù)載,英特爾采用 AMX 和 AVX-512 兩個(gè)指令集,基于 OpenVINO 進(jìn)行優(yōu)化。在推理的過(guò)程中,指令集上可以進(jìn)行切分,通過(guò)加速器定向加速某一部分,整個(gè)效果替代傳統(tǒng)的基于 GPU 的 AI 模型。9f428資訊網(wǎng)——每日最新資訊28at.com

9f428資訊網(wǎng)——每日最新資訊28at.com

依靠第五代英特爾至強(qiáng)可擴(kuò)展處理器的硬件特性包括對(duì) AI 的支持及內(nèi)存帶寬和吞吐量的提升使得 AI 推理能力也得到了增強(qiáng),對(duì)于最終企業(yè)客戶而言帶來(lái)了整體性能的提升。配合軟件優(yōu)化使得在 CPU 上進(jìn)行大模型推理成為可能。CPU 在推理能力上可以與 GPU 媲美,通過(guò) oneCCL 的加持,甚至可以支持 700 億參數(shù)的模型推理,延遲在 100ms 以內(nèi)。9f428資訊網(wǎng)——每日最新資訊28at.com

本文鏈接:http://www.www897cc.com/showinfo-26-78151-0.html生成式 AI 算力新臺(tái)階,第五代至強(qiáng)可擴(kuò)展處理器詳解

聲明:本網(wǎng)頁(yè)內(nèi)容旨在傳播知識(shí),若有侵權(quán)等問(wèn)題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系,我們將在第一時(shí)間刪除處理。郵件:2376512515@qq.com

上一篇: 金山軟件 2023 年?duì)I收 85.3 億元增長(zhǎng) 12%,凈利潤(rùn) 4.835 億元扭虧為盈

下一篇: 友盟 + U-APP 首批適配 HarmonyOS NEXT,提供免費(fèi)的統(tǒng)計(jì)分析工具

標(biāo)簽:
  • 熱門(mén)焦點(diǎn)
  • 十個(gè)可以手動(dòng)編寫(xiě)的 JavaScript 數(shù)組 API

    JavaScript 中有很多API,使用得當(dāng),會(huì)很方便,省力不少。 你知道它的原理嗎? 今天這篇文章,我們將對(duì)它們進(jìn)行一次小總結(jié)。現(xiàn)在開(kāi)始吧。1.forEach()forEach()用于遍歷數(shù)組接收一參
  • 企業(yè)采用CRM系統(tǒng)的11個(gè)好處

    客戶關(guān)系管理(CRM)軟件可以為企業(yè)提供很多的好處,從客戶保留到提高生產(chǎn)力。  CRM軟件用于企業(yè)收集客戶互動(dòng),以改善客戶體驗(yàn)和滿意度。  CRM軟件市場(chǎng)規(guī)模如今超過(guò)580
  • 小紅書(shū)1周漲粉49W+,我總結(jié)了小白可以用的N條漲粉筆記

    作者:黃河懂運(yùn)營(yíng)一條性教育視頻,被54萬(wàn)人“珍藏”是什么體驗(yàn)?最近,情感博主@公主是用鮮花做的,火了!僅僅憑借一條視頻,光小紅書(shū)就有超過(guò)128萬(wàn)人,為她瘋狂點(diǎn)贊!更瘋狂的是,這
  • 共享單車的故事講到哪了?

    來(lái)源丨海克財(cái)經(jīng)與共享充電寶相差不多,共享單車已很久沒(méi)有被國(guó)內(nèi)熱點(diǎn)新聞關(guān)照到了。除了一再漲價(jià)和用戶直呼用不起了。近日多家媒體再發(fā)報(bào)道稱,成都、天津、鄭州等地多個(gè)共享單
  • 自律,給不了Keep自由!

    來(lái)源 | 互聯(lián)網(wǎng)品牌官作者 | 李大為編排 | 又耳 審核 | 谷曉輝自律能不能給用戶自由暫時(shí)不好說(shuō),但大概率不能給Keep自由。近日,全球最大的在線健身平臺(tái)Keep正式登陸港交所,努力
  • 自研Exynos回歸!三星Galaxy S24系列將提供Exynos和驍龍雙版本

    年初,全新的三星Galaxy S23系列發(fā)布,包含Galaxy S23、Galaxy S23+和Galaxy S23 Ultra三個(gè)版本,全系搭載超頻版驍龍8 Gen 2,雖同樣采用臺(tái)積電4nm工藝制
  • AMD的AI芯片轉(zhuǎn)單給三星可能性不大 與臺(tái)積電已合作至2nm制程

    據(jù) DIGITIMES 消息,英偉達(dá) AI GPU 出貨逐季飆升,接下來(lái) AMD MI 300 系列將在第 4 季底量產(chǎn)。而半導(dǎo)體業(yè)內(nèi)人士表示,近日傳出 AMD 的 AI 芯片將轉(zhuǎn)單給
  • 首發(fā)天璣9200+ iQOO Neo8系列發(fā)布首銷售價(jià)2299元起

    2023年5月23日晚,iQOO Neo8系列正式發(fā)布。其中,Neo系列首款Pro之作——iQOO Neo8 Pro強(qiáng)悍登場(chǎng),限時(shí)售價(jià)3099元起;價(jià)位段最強(qiáng)性能手機(jī)iQOO Neo8同期上市
  • 三翼鳥(niǎo)智能家居亮相電博會(huì),讓用戶體驗(yàn)更真實(shí)

    2021電博會(huì)在青島國(guó)際會(huì)展中心開(kāi)幕中,三翼鳥(niǎo)直接把“家”搬到了現(xiàn)場(chǎng),成為了展會(huì)的一大看點(diǎn)。這也是三翼鳥(niǎo)繼9月9日發(fā)布了行業(yè)首個(gè)一站式定制智慧家平臺(tái)后的
Top 主站蜘蛛池模板: 冷水江市| 庄浪县| 斗六市| 盐源县| 佛教| 大安市| 石棉县| 三穗县| 聂拉木县| 武隆县| 太谷县| 大庆市| 分宜县| 长宁区| 共和县| 嘉定区| 明溪县| 罗江县| 翁牛特旗| 钦州市| 弥渡县| 军事| 夏河县| 轮台县| 定州市| 饶阳县| 兴仁县| 延安市| 苍梧县| 康定县| 县级市| 贵德县| 威海市| 黄浦区| 遵义市| 郧西县| 台安县| 乡宁县| 那曲县| 黄浦区| 岳池县|