日韩成人免费在线_国产成人一二_精品国产免费人成电影在线观..._日本一区二区三区久久久久久久久不

當前位置:首頁 > 科技  > 軟件

最強服務器 CPU 來了!AI 性能直接翻倍

來源: 責編: 時間:2024-09-28 15:19:26 181觀看
導讀 服務器 CPU 領域持續多年的核心數量大戰,被一舉終結了!英特爾最新發布的至強 ?6 性能核處理器(P-core 系列),超越了過去單一維度的競爭,通過“升維”定義了新的游戲規則:> 算力、存力,要全方位提升。不能做到這一點

服務器 CPU 領域持續多年的核心數量大戰,被一舉終結了!mBi28資訊網——每日最新資訊28at.com

英特爾最新發布的至強 ?6 性能核處理器(P-core 系列),超越了過去單一維度的競爭,通過“升維”定義了新的游戲規則:mBi28資訊網——每日最新資訊28at.com

> 算力、存力,要全方位提升。不能做到這一點的 CPU,不是智算時代的好 U。mBi28資訊網——每日最新資訊28at.com

mBi28資訊網——每日最新資訊28at.com

在過去,CPU 升級換代往往要在單個芯片上集成更多的核心,但這難免會受到工藝和芯片尺寸的限制,更別提與 IO 和內存的匹配難題。mBi28資訊網——每日最新資訊28at.com

這一次,至強 ?6 性能核處理器采用了計算芯片單元與 I/O 芯片單元解耦的分離式模塊化設計,可以靈活組合不同數量的計算單元,實現核心數量的擴展及內存和 IO 的同步強化,保證更優的整體性能和能效。mBi28資訊網——每日最新資訊28at.com

用最直觀的方式感受一下:mBi28資訊網——每日最新資訊28at.com

2023 年 12 月 15 日,英特爾數據中心與人工智能集團副總裁陳葆立從褲兜里掏出第五代至強 ? 可擴展處理器,還只有 64 個核心。mBi28資訊網——每日最新資訊28at.com

2024 年 9 月 26 日,還是陳葆立,同樣從褲兜里掏出至強 ?6 性能核處理器,卻直接翻倍到 128 核心。mBi28資訊網——每日最新資訊28at.com

兩款處理器外形大小相似,都能輕松放入口袋,但性能卻發生了質的飛躍。mBi28資訊網——每日最新資訊28at.com

mBi28資訊網——每日最新資訊28at.com

具體來說,剛剛登場的是至強 ?6 性能核處理器大家族中的先鋒 + 頂級戰力 —— 英特爾 ? 至強 ?6900P 系列。mBi28資訊網——每日最新資訊28at.com

擁有多達 128 個性能核和 504MB 的超大 L3 緩存,更大、更寬的內存支持,更多、更快的 IO 能力。非常適用于各種數據和計算密集型應用任務,比如科學計算、海量數據處理,還有 AI。mBi28資訊網——每日最新資訊28at.com

mBi28資訊網——每日最新資訊28at.com

看到這里,可能很多人會有疑問:你們又要說用 CPU 跑 AI?是 GPU 它不香了么?mBi28資訊網——每日最新資訊28at.com

NoNoNo,我們是想說:有了這款 CPU,你的 GPU 或其他的 AI 加速器,會更香!mBi28資訊網——每日最新資訊28at.com

談到這個話題,就要先說說 AI 服務器。mBi28資訊網——每日最新資訊28at.com

在生成式 AI 應用百花齊放的當下,AI 服務器的重要性可謂是不言而喻,無論是對于大規模的訓練、推理,亦或是 RAG 等任務,都對其提出了更高的要求。mBi28資訊網——每日最新資訊28at.com

也正如綜合市場預測數據從側面反應出來的那般:mBi28資訊網——每日最新資訊28at.com

>AI 服務器市場規模已經達到了 211 億美元,預計 2025 年達到 317.9 億美元,2023-2025 年的 CAGR 為 22.7%。mBi28資訊網——每日最新資訊28at.com

我們都知道 AI 服務器里 GPU 或 AI 加速器很重要,卻很容易忽視其中 CPU 的作用。一個真正為 AI 服務器或 AI 數據中心基礎設施設計的出色的 CPU,應該是什么樣的?mBi28資訊網——每日最新資訊28at.com

英特爾 ? 至強 ?6 性能核處理器,可以說是給出了一個正解。mBi28資訊網——每日最新資訊28at.com

外媒甚至評測過后,對英特爾這次的新 CPU 給予了極高的評價:mBi28資訊網——每日最新資訊28at.com

> 不僅僅是 Xeon,更是 XEON。mBi28資訊網——每日最新資訊28at.com

mBi28資訊網——每日最新資訊28at.com

嗯,用中文來說的話,就是英特爾至強,這次是真的至強(達到最強)了。mBi28資訊網——每日最新資訊28at.com

那么英特爾 ? 至強 ?6 性能核處理器是如何解鎖這種認同的呢?mBi28資訊網——每日最新資訊28at.com

至強,何以至強mBi28資訊網——每日最新資訊28at.com

首先要說的是算力。mBi28資訊網——每日最新資訊28at.com

英特爾 ? 至強 ?6900P 系列產品此次最亮眼的 128 核(三個計算芯片單元),這就是它看似符合此前游戲規則的一大技術亮點。mBi28資訊網——每日最新資訊28at.com

通過核心數量的不同排列組合方式,至強 ?6 性能核處理器可以應對不同的場景來提供不同核心的型號,除了最高 128 核的產品系列(6900P)外,還有最高 86 核(2 個計算芯片單元),最高 48 核(1 個計算芯片單元)和 16 核(1 個計算芯片單元)的產品系列。mBi28資訊網——每日最新資訊28at.com

mBi28資訊網——每日最新資訊28at.com

用來做這種排列組合的模塊中,計算芯片單元采用的是 Intel 3 制程,包含一體式網格、核心、緩存、內存控制器等,可以保證數據傳輸的一致性。mBi28資訊網——每日最新資訊28at.com

I/O 芯片單元則是采用 Intel 7 制程,包含 UPI、PCIe、CXL 和加速器引擎等。mBi28資訊網——每日最新資訊28at.com

不同于第五代英特爾 ? 至強 ? 產品,至強 ?6 是將 I/O 和計算兩個單元進行了解耦,不僅易于做核數的擴展,還有利于驗證、重復和靈活使用。mBi28資訊網——每日最新資訊28at.com

mBi28資訊網——每日最新資訊28at.com

除此之外,英特爾 ? 至強 ?6 性能核處理器的亮點還包括:mBi28資訊網——每日最新資訊28at.com

6400 MT/s DDR58800 MT/s MRDIMM 內存 6 條 UPI 2.0 鏈路;速率高達 24 GT/s96 條 PCIe 5.0/ 64 條 CXL 2.0 通道 L3 緩存高達 504MB 支持 FP16 數據格式的英特爾 ?AMXmBi28資訊網——每日最新資訊28at.com

mBi28資訊網——每日最新資訊28at.com

接下來要說的是存力。mBi28資訊網——每日最新資訊28at.com

至強 ?6 性能核處理器超脫此前游戲規則的亮點就藏在其中。mBi28資訊網——每日最新資訊28at.com

它同時支持了更快的 DDR5 內存(6400MT/s)和更“寬”的 MRDIMM 內存(8800MT/s)。mBi28資訊網——每日最新資訊28at.com

僅把前者替換成后者,就已經能讓科學計算和 AI 場景的多項任務提升 7%-33% 不等了。而且相比此前至強 ?CPU Max 采用的 HBM,MRDIMM 內存的引入,不僅帶寬和速度優勢更明顯,它與 CPU 解耦的型態,也更利于用戶的靈活采購、配置與升級。mBi28資訊網——每日最新資訊28at.com

mBi28資訊網——每日最新資訊28at.com

存力除了內存本身的性能,還包含 CPU 與內存之間的互連技術,至強 ?6 導入了最新的 Compute Express Link 2.0 (CXL 2.0)。mBi28資訊網——每日最新資訊28at.com

CXL 2.0 支持多種設備類型,且可向后兼容,實現對內存和存儲設備的靈活擴展。mBi28資訊網——每日最新資訊28at.com

支持鏈路分叉、更強的 CXL 內存分層支持,以及以受控熱插拔的方式添加 / 移除設備,為未來的數據中心架構帶來了更多可能性。mBi28資訊網——每日最新資訊28at.com

更值得一提的是至強 ?6 獨占的“Flat”內存模式,CXL 內存和 DRAM 內存被視為單一的內存層,讓操作系統可以直接訪問這一統一的內存地址空間。mBi28資訊網——每日最新資訊28at.com

這樣的分層管理可以確保最大限度地提升內存使用效率,并且實現利用好 CXL 內存擴展而無需修改軟件。mBi28資訊網——每日最新資訊28at.com

mBi28資訊網——每日最新資訊28at.com

如此這般能對內存速度、帶寬、容量和可擴展性全面兼顧,已經形成了至強 ?6 性能核處理器獨樹一幟的競爭力。mBi28資訊網——每日最新資訊28at.com

具體到服務器設計上,CLX2.0 可以支持每機提供 8TB 內存容量擴展,同時提供 384GB/s 的內存帶寬擴展。mBi28資訊網——每日最新資訊28at.com

mBi28資訊網——每日最新資訊28at.com

當然,作為 CPU 的至強 ?6 性能核處理器并沒有忘記自己的本份,把存力與算力的硬指標優勢結合起來,轉化成真正的優勢,才是它被看好的底氣。mBi28資訊網——每日最新資訊28at.com

在算力方面,除了更多內核,它還有內置加速器與指令集更新帶來的加成。mBi28資訊網——每日最新資訊28at.com

mBi28資訊網——每日最新資訊28at.com

主攻 AI 加速的英特爾 ? 高級矩陣擴展(Intel?AMX)新增對 FP16 數據類型的支持,現已全面覆蓋 int8、BF16 和 FP16 數據類型。mBi28資訊網——每日最新資訊28at.com

其在每個內核中的矩陣乘加(MAC)運算速度可達 2048 FLOPS(int8)和 1024 FLOPS(BF16 / FP16),能大幅提升 AI 推理和訓練性能。mBi28資訊網——每日最新資訊28at.com

英特爾 ? 高級矢量擴展 512(AVX-512)雖然是員老將了,但在得到如此豐沛的內核資源支持后,也依然是科學計算、數據庫和 AI 任務中的矢量計算擔當。mBi28資訊網——每日最新資訊28at.com

這些加速器的升級與煥新帶來的成果就是下圖這種多負載性能表現普遍倍增的現象,在 AI 領域,尤其是在 Llama2-7B 上的提升直接達到了前一代產品的 3.08 倍。mBi28資訊網——每日最新資訊28at.com

mBi28資訊網——每日最新資訊28at.com

最后在硬件增強的安全特性方面,英特爾早期的方案為 SGX,但從第五代至強 ? 開始新增了 TDX 方案。這些看似難以通過 Benchmark 數值來證明自身價值的技術,實則不可或缺,是確保關鍵數據和應用更為安全可靠的壓艙石。mBi28資訊網——每日最新資訊28at.com

而安全,恰恰是目前 AI 數據中心或智算中心這種涉及海量數據、關系萬千機密和隱私的環境中較少提及,卻最應補足和鞏固的一環。mBi28資訊網——每日最新資訊28at.com

mBi28資訊網——每日最新資訊28at.com

說了這么多,如果要用一句話總結至強 ?6 性能核處理器,尤其是 6900P 系列產品的定位,那就是“更強通用計算,兼顧 AI 加速”了。mBi28資訊網——每日最新資訊28at.com

那么新處理器具體都有哪些用法,表現又如何呢?mBi28資訊網——每日最新資訊28at.com

還請繼續往下看。mBi28資訊網——每日最新資訊28at.com

全能型 CPU:加速 AI 推理,統領異構計算mBi28資訊網——每日最新資訊28at.com

首先,至強 ?6 性能核處理器可以做“獨行俠”,直接加速 AI 推理,助力 AI 應用普及。mBi28資訊網——每日最新資訊28at.com

用 CPU 做 AI 推理加速,其意義并非在于與 GPU 或其他專用加速器競爭極致的速度或效率,而是要在一些成本、采購、環境等條件受限的情況下,借助 CPU 部署更廣泛、人才儲備更扎實和應用更便捷的優勢,讓 AI 能夠更快、更有效地落地。mBi28資訊網——每日最新資訊28at.com

帶著這樣的整體目標,英特爾在軟件生態和工作負載優化方面投入了大量精力,以確保用戶能夠充分發揮至強 ?6 性能核處理器的潛力。mBi28資訊網——每日最新資訊28at.com

例如,英特爾與 TensorFlow 和 PyTorch 等主流深度學習框架進行深度合作,將針對英特爾 CPU 的優化集成到官方發行版中,從而使得在英特爾 CPU 上運行深度學習模型時,性能得到顯著提升。上文提到的 Llama2-7B 成績便是這些努力的成果之一。mBi28資訊網——每日最新資訊28at.com

另外,至強 ?6 性能核處理器還可以做“指揮官”,強化 AI 系統整體實力。mBi28資訊網——每日最新資訊28at.com

這其實是很多用戶更為熟悉,也是至強 ?6 性能核處理器更主打的應用方式,所謂“指揮官”,另一個名稱就是機頭(head-node)CPU 或主控 CPU。mBi28資訊網——每日最新資訊28at.com

如果將至強 ?6 性能核處理器用作 AI 服務器的機頭 CPU,那么其在算力(更強的單線程性能)、存力(對 MRDIMM 內存和 CXL 內存擴展能力的支持)以及 I/O(更多的 PCIe 5.0 通道)等方面的優勢和潛能就能更加充分地發揮和釋放出來。mBi28資訊網——每日最新資訊28at.com

使其能夠與 GPU 或專用的 AI 加速器高效協作,出色地處理數據預處理、數據傳輸分享和混合工作負載。mBi28資訊網——每日最新資訊28at.com

mBi28資訊網——每日最新資訊28at.com

我們最初的設問,至此終于拼湊出了一個更為完整的答案,即為何至強 ?6 性能核處理器能夠被稱作 AI 服務器或 AI 數據中心的“嚴選”,甚至是優選 CPU?mBi28資訊網——每日最新資訊28at.com

這正是由于它既能夠單槍匹馬地加速 AI 推理,又可以居中協調以提升異構系統的整體性能輸出。mBi28資訊網——每日最新資訊28at.com

更不必說,它還能夠兼顧眾多傳統但同樣不可或缺的應用負載,例如前文提及的科學計算和數據庫,以及高性能云基礎設施構建等任務。mBi28資訊網——每日最新資訊28at.com

以 Flatiron Institute 的案例來說,作為一家科研機構,他們對科學計算有著強烈的需求。通過測試得知,至強 ?6 性能核處理器在常見科學計算負載上表現優異。mBi28資訊網——每日最新資訊28at.com

他們還覺得對 MRDIMM 內存的支持將進一步突破傳統 DDR 內存的性能瓶頸,推動數據密集型科學發現。mBi28資訊網——每日最新資訊28at.com

mBi28資訊網——每日最新資訊28at.com

在本次至強 ?6 性能核處理器的發布會上,英特爾也展示了本地數據庫軟件合作伙伴 —— 科藍軟件的成果。mBi28資訊網——每日最新資訊28at.com

英特爾市場營銷集團副總裁、中國區 & 行業解決方案和數據中心銷售部總經理梁雅莉在介紹生態系統支持狀況時表示:mBi28資訊網——每日最新資訊28at.com

> 基于我們的新品,科藍軟件構建了高性能國產分布式數據庫,其吞吐較第五代至強 ? 可擴展處理器提升達到 198%。mBi28資訊網——每日最新資訊28at.com

值得一提的是,在她分享中出現的中國合作伙伴數量眾多且都是各領域的核心力量,英特爾雖然在產品研發上有了更多創新,但在商業模式上仍然非常依賴開放架構平臺之上的產業合力。mBi28資訊網——每日最新資訊28at.com

十數家 OEM、ODM、OSV 和 ISV 在至強 ?6 性能核處理器發布時同步推出新產品,以及多家云服務提供商的支持,在英特爾看來,才是新品真正走近用戶和價值放大的基礎。mBi28資訊網——每日最新資訊28at.com

mBi28資訊網——每日最新資訊28at.com

建好 AI 服務器,CPU 不能是短板mBi28資訊網——每日最新資訊28at.com

從前面列舉的眾多數據和用例可以看出,在當前 AI 應用加速落地、新推理計算范式和合成數據等趨勢的推動下,AI 算力需求越來越注重推理和復合工作負載。mBi28資訊網——每日最新資訊28at.com

在這之中 GPU 或專用加速器固然重要,但 CPU 作為整個系統的“指揮官”,絕不能成為短板。mBi28資訊網——每日最新資訊28at.com

大家需要真正兼顧通用計算,以及 AI 服務器及 AI 數據中心場景的 CPU 產品。它不僅能支持廣泛的第三方 GPU 及 AI 加速器,與它們組合形成強大的異構計算平臺,還能在其中補足 GPU 或專用加速器覆蓋不到或不足的地方,為更多樣和復雜的場景提供靈活的算力選擇,并增強整個 AI 平臺的穩定性、安全性和擴展性。mBi28資訊網——每日最新資訊28at.com

mBi28資訊網——每日最新資訊28at.com

英特爾 ? 至強 ?6 性能核處理器的出現,就為 AI 計算帶來了這樣一個全新的支點。(來源:量子位作者:夢晨金磊)mBi28資訊網——每日最新資訊28at.com

本文鏈接:http://www.www897cc.com/showinfo-26-116818-0.html最強服務器 CPU 來了!AI 性能直接翻倍

聲明:本網頁內容旨在傳播知識,若有侵權等問題請及時與本網聯系,我們將在第一時間刪除處理。郵件:2376512515@qq.com

上一篇: 亞馬遜 40 億美元投資 AI 公司 Anthropic 交易獲英國批準

下一篇: 微博影像年走進平遙大展丨《燃燒的大地》主題展圓滿落幕

標簽:
  • 熱門焦點
Top 主站蜘蛛池模板: 新田县| 洪雅县| 茶陵县| 乐东| 乐至县| 织金县| 南部县| 屏南县| 吉木乃县| 瓮安县| 迁西县| 安庆市| 昭苏县| 南部县| 山丹县| 浦城县| 廉江市| 镇康县| 兴义市| 黑河市| 喀什市| 措勤县| 阿拉尔市| 利川市| 牟定县| 方城县| 古浪县| 赞皇县| 桦川县| 娱乐| 察雅县| 潢川县| 静海县| 阿合奇县| 余庆县| 奉贤区| 海口市| 琼结县| 和龙市| 道真| 枞阳县|