日韩成人免费在线_国产成人一二_精品国产免费人成电影在线观..._日本一区二区三区久久久久久久久不

當前位置:首頁 > 科技  > 軟件

生成式 AI 算力新臺階,第五代至強可擴展處理器詳解

來源: 責編: 時間:2024-03-21 09:43:54 184觀看
導讀 如今 AI 的生意越做越大,從出圈爆火,到千行百業都開始擁抱 AI,越來越多的企業,都會將 AI 導入到他們的生意模式當中。預計到 2026 年有超過 3000 億美金將投入到生成式 AI 當中,這其中包括硬件、軟件、解決方案等

如今 AI 的生意越做越大,從出圈爆火,到千行百業都開始擁抱 AI,越來越多的企業,都會將 AI 導入到他們的生意模式當中。預計到 2026 年有超過 3000 億美金將投入到生成式 AI 當中,這其中包括硬件、軟件、解決方案等。50% 以上的邊緣應用也會采用 AI 技術。到 2028 年有 80% 以上的 PC 都會轉換成 AI PC,通過 AI 可以提升大家在 PC 上的生產力。還有 80% 以上的公司,也會在 2026 年之前會導入某種程度的生成式 AI 以提高企業生產力。XeO28資訊網——每日最新資訊28at.com

各行各業都在積極的擁抱 AI,這離不開強大的算力支持,英特爾在去年 AI 風頭正勁的時候推出了第五代英特爾至強可擴展處理器,為云端 AI 能力帶來了全新的體驗。XeO28資訊網——每日最新資訊28at.com

XeO28資訊網——每日最新資訊28at.com

第五代至強最多擁有 64 個核,并引入了諸多 AI 特性,如 AMX、AVX-512 指令集等,并通過性能的提升,對生成式 AI 應用帶來更快的體驗。第五代至強可擴展處理器內存達 5600MT/s,三級緩存進一步提升,加速處理器的數據交換。在軟件生態上英特爾也進行了很大投入,目前,英特爾上傳了 300 個以上的深度學習模型到社區,也支持了 50 個以上的基于機器學習的、且基于第五代至強優化過的模型,這些開發者都可以調用。針對開發者,英特爾同步更新了其 AI 開發軟件,可以在第五代至強上的應用做到較大優化,針對主流大模型、生成式 AI 模型的框架,如 PyTorch 和 TensorFlow,可以無縫拓展至英特爾至強可擴展處理器上。XeO28資訊網——每日最新資訊28at.com

針對第五代至強可擴展處理器的諸多變化,英特爾市場營銷集團副總裁、中國區數據中心銷售總經理兼中國區運營商銷售總經理莊秉翰表示,“基于硬件和軟件的優化,第五代至強和第四代至強相比,在 AI 訓練、實時推理、批量推理上,基于不同的算法,都可以看到不同性能的提升,最高可提升 40%。”XeO28資訊網——每日最新資訊28at.com

XeO28資訊網——每日最新資訊28at.com

莊秉翰表示,“對新興的,尤其是基于云原生的設計,我們提供能效核,每瓦性能可以做到相對極致,而且因為它的核比較精簡,可以放更多高密度的核數到每一款的 CPU 和服務器,所以它會支持面向云的高密度超高能效的運算進行能效的優化。在近期對于產品淘汰換新的要求中,有一個重要考量因素就是能效比,而我們在今年推出的能效核,也是符合國家對設備淘汰換新的要求。”XeO28資訊網——每日最新資訊28at.com

?第五代至強大調整,性能更強功耗控制更好

第五代英特爾至強可擴展處理器帶來了五項升級,在制程工藝方面,第五代至強采用 Intel 7 制程,從第四代至強到第五代至強,英特爾也關鍵的技術指標做了改進,特別是在系統的漏電流控制和動態電容方面,這兩方面的指標都對整個晶體管的性能表現有比較大的影響。通過這些調整,整體上第五代至強在同等功耗下的頻率可以提升 3%。XeO28資訊網——每日最新資訊28at.com

XeO28資訊網——每日最新資訊28at.com

芯片布局方面,通過把四片芯片改成兩片芯片的設計,可以更好的對芯片的面積進行控制。通過 MDF 和 SCF 連接,在第五代至強可進一步實現芯片之間的高效互連。XeO28資訊網——每日最新資訊28at.com

在關鍵表現上,第五代至強做了如下調整:XeO28資訊網——每日最新資訊28at.com

?升級到 Raptor Cove 核心。XeO28資訊網——每日最新資訊28at.com

?核心數增加,從最多的 60 核升級到 64 核。XeO28資訊網——每日最新資訊28at.com

?LLC 大小從 1.875MB 增加到 5MB。XeO28資訊網——每日最新資訊28at.com

?DDR 速度從 4800MT/s提升到了 5600MT/s。XeO28資訊網——每日最新資訊28at.com

?UPI 速度從 16GT/s提升到 20GT/s。XeO28資訊網——每日最新資訊28at.com

?SoC 芯片拓撲結構更改,4 芯片封裝改為 2 芯片封裝。XeO28資訊網——每日最新資訊28at.com

?待機功耗降低。XeO28資訊網——每日最新資訊28at.com

待機功耗下降是通過英特爾全集成供電模塊(FIVR),實現不同場景下節電優化。在性能能效方面,與第四代至強相比,第五代至強有兩個數據提升比較明顯,一個是常規的整數計算,第五代至強 SPEC integer 和整數相關的一系列的性能評價指標有 21% 的提升。針對 AI 負載,性能提升更多達到 42%。XeO28資訊網——每日最新資訊28at.com

為了達到這一性能提升,英特爾引入了新的 Raptor cove 核心并將四芯片封裝改成兩個芯片,這樣可以減少芯片間的功耗,把更多功耗放在處理器的性能提升上。另外,DDR 的頻率以及 LLC 的提升,這些都是和內存帶寬相關的業務,有更好的性能表現。XeO28資訊網——每日最新資訊28at.com

在三級緩存上,第五代至強每個模塊的三級緩存容量達到了 5MB,所以這款芯片有高達 320MB 緩存,如果數據集不是很大,大部分的數據都可以放在 LLC 緩存當中,大量減少對內存的訪問。而在數據停留在緩存里面和到內存去訪問,能帶來的性能收益是比較大的。第五代至強在設計上做到同頻同延遲下密度提升 30%。XeO28資訊網——每日最新資訊28at.com

內存方面,第五代至強 DDR 速度從 4800MT/s提升到 5600MT/s,英特爾做了很多優化,包括一些 MIM 的內存、基板上走線的提升以及片上的低噪聲的供電措施等,還通過 DFE 功能盡可能的減少碼間干擾(ISI)。XeO28資訊網——每日最新資訊28at.com

軟件解決方案發展迅速,充分利用第五代至強性能

如今數字化又有了新的需求,英特爾通過新的計算范式支持新的數字化需求。云計算是 AI 時代離不開的話題,AI 時代下,存在三個瓶頸,一是算力,二是數據,三是工程化能力。到了 AI 時代,數據中心的耗電量問題,也是擺在企業面前的一座大山。如何提升能效?英特爾的技術專家提出兩種方式,一是為前端客戶提供智能,二是自身的底層設施智能化。在過去的 10 年,英特爾致力于構建一個完備的生態,通過軟、硬件結合幫助生態合作伙伴們充分挖掘和利用底層 CPU 能力。XeO28資訊網——每日最新資訊28at.com

第五代至強可擴展處理器在 AI 推理訓練上最高提升了 14 倍,基礎架構的存儲能夠達到 2.8 倍,網絡邊緣可以達到 3.2 倍,高性能計算能達到 3 倍,數據分析可以達到 3.7 倍,這些綜合起來可以獲得了多維度的提升,L3 緩存增加,受益最大的是數據庫,AI 和大數據分析也會從 L3 的提升中受益。核數增加之后,“紅利”最大的是科學計算和大數據。核之間 UPI 總線也會越來越快,所以核數多少對于 AI / 大數據比較重要。當然若是底層主頻高了,內存帶寬大了,4800MT/s提升至 5600MT/s了,那么大家都能獲益。在 AI 當中,通過英特爾 AMX 加速器專門針對矩陣運算,性能便會大幅提升。XeO28資訊網——每日最新資訊28at.com

英特爾在第五代至強產品上充分挖掘 CPU 的能力,通過不同層次的深度挖掘,讓 CPU 更適合 AI 場景,成為 AI 時代全能的大俠。XeO28資訊網——每日最新資訊28at.com

XeO28資訊網——每日最新資訊28at.com

第五代至強可擴展處理器將持續保持至強平臺性能的領先地位,與第四代至強可擴展處理器相比,其 AI 推理的高性能提升高達 42%,通用計算性能增益 21%。XeO28資訊網——每日最新資訊28at.com

英特爾擁有開放的生態,也幫助行業伙伴直接使用,并很好帶動整個生態的發展。英特爾始終致力于在 CPU 上部署 AI,并基于 OpenVINO 對整個模型進行優化、量化。包括推薦、語音識別、圖像識別、基因測序等,英特爾均做了大量的優化,尤其是推薦系統,其模型非常大,當 GPU 無法運行的時候,用 CPU 反而是主流的。因為 GPU 不夠的時候,就意味著需要跨 GPU,或者說和 CPU 有頻繁交互。那么,跟主存有頻繁交互的時候,實際上使用 CPU 會更快。因此,對于推薦系統、大模型、稀疏矩陣等,用 CPU 效率更高。XeO28資訊網——每日最新資訊28at.com

XeO28資訊網——每日最新資訊28at.com

對于通用的 AI 工作負載,英特爾采用 AMX 和 AVX-512 兩個指令集,基于 OpenVINO 進行優化。在推理的過程中,指令集上可以進行切分,通過加速器定向加速某一部分,整個效果替代傳統的基于 GPU 的 AI 模型。XeO28資訊網——每日最新資訊28at.com

XeO28資訊網——每日最新資訊28at.com

依靠第五代英特爾至強可擴展處理器的硬件特性包括對 AI 的支持及內存帶寬和吞吐量的提升使得 AI 推理能力也得到了增強,對于最終企業客戶而言帶來了整體性能的提升。配合軟件優化使得在 CPU 上進行大模型推理成為可能。CPU 在推理能力上可以與 GPU 媲美,通過 oneCCL 的加持,甚至可以支持 700 億參數的模型推理,延遲在 100ms 以內。XeO28資訊網——每日最新資訊28at.com

本文鏈接:http://www.www897cc.com/showinfo-26-78151-0.html生成式 AI 算力新臺階,第五代至強可擴展處理器詳解

聲明:本網頁內容旨在傳播知識,若有侵權等問題請及時與本網聯系,我們將在第一時間刪除處理。郵件:2376512515@qq.com

上一篇: 金山軟件 2023 年營收 85.3 億元增長 12%,凈利潤 4.835 億元扭虧為盈

下一篇: 友盟 + U-APP 首批適配 HarmonyOS NEXT,提供免費的統計分析工具

標簽:
  • 熱門焦點
  • iPhone賣不動了!蘋果股價創年內最大日跌幅:市值一夜蒸發萬億元

    8月5日消息,今天凌晨美股三大指數高開低走集體收跌,道指跌0.41%;納指跌0.36%;標普500指數跌0.52%。熱門科技股也都變化極大,其中蘋果報181.99美元,跌4.8%,創
  • K8S | Service服務發現

    一、背景在微服務架構中,這里以開發環境「Dev」為基礎來描述,在K8S集群中通常會開放:路由網關、注冊中心、配置中心等相關服務,可以被集群外部訪問;圖片對于測試「Tes」環境或者
  • 一文搞定Java NIO,以及各種奇葩流

    大家好,我是哪吒。很多朋友問我,如何才能學好IO流,對各種流的概念,云里霧里的,不求甚解。用到的時候,現百度,功能雖然實現了,但是為什么用這個?不知道。更別說效率問題了~下次再遇到,
  • Temu起訴SHEIN,跨境電商戰事升級

    來源 | 伯虎財經(bohuFN)作者 | 陳平安日前據外媒報道,拼多多旗下跨境電商平臺Temu正對競爭對手SHEIN提起新訴訟,訴狀稱Shein“利用市場支配力量強迫服裝廠商與之簽訂獨家
  • 中國家電海外掘金正當時|出海專題

    作者|吳南南編輯|胡展嘉運營|陳佳慧出品|零態LT(ID:LingTai_LT)2023年,出海市場戰況空前,中國創業者在海外紛紛摩拳擦掌,以期能夠把中國的商業模式、創業理念、戰略打法輸出海外,他們依
  • 10天營收超1億美元,《星鐵》比《原神》差在哪?

    來源:伯虎財經作者:陳平安即便你沒玩過《原神》,你一定聽說過的它的大名。恨它的人把《原神》開服那天稱作是中國游戲史上最黑暗的一天,有粉絲因為索尼在PS平臺上線《原神》,怒而
  • 疑似小米14外觀設計圖曝光:后置相機模組變化不大

    下半年的大幕已經開啟,而誰將成為下半年手機圈的主角就成為了大家關注的焦點,其中被傳有望拿下新一代驍龍8 Gen3旗艦芯片的小米14系列更是備受大家矚
  • OPPO K11搭載長壽版100W超級閃充:26分鐘充滿100%

    據此前官方宣布,OPPO將于7月25日也就是今天下午14:30舉辦新品發布會,屆時全新的OPPO K11將正式與大家見面,將主打旗艦影像,和同檔位競品相比,其最大的賣
  • 中關村論壇11月25日開幕,15位諾獎級大咖將發表演講

    11月18日,記者從2022中關村論壇新聞發布會上獲悉,中關村論壇將于11月25至30日在京舉行。本屆中關村論壇由科學技術部、國家發展改革委、工業和信息化部、國務
Top 主站蜘蛛池模板: 正宁县| 凌云县| 应城市| 青神县| 中江县| 睢宁县| 云南省| 普宁市| 成武县| 金坛市| 仲巴县| 铜川市| 舞阳县| 通渭县| 泗阳县| 洛南县| 金华市| 图木舒克市| 汉川市| 鄂伦春自治旗| 哈密市| 进贤县| 龙里县| 高尔夫| 五河县| 淅川县| 盐亭县| 封开县| 西乡县| 石柱| 裕民县| 台东县| 汉中市| 龙山县| 平阴县| 安国市| 乌什县| 西平县| 阿克| 确山县| 墨脱县|