△圖源:英特爾要知道,在AI大模型遵循Scaling Law發展的當下,為了取得更好的效果" />

日韩成人免费在线_国产成人一二_精品国产免费人成电影在线观..._日本一区二区三区久久久久久久久不

當前位置:首頁 > 科技  > 測評

CPU、GPU的互連從1米飆至100米 英特爾:你相信光嗎?

來源: 責編: 時間:2024-07-27 15:24:22 419觀看
導讀 英特爾用“光”,突破了大模型時代棘手的算力難題——推出業界首款全集成OCI(光學計算互連)芯片。
△圖源:英特爾要知道,在AI大模型遵循Scaling Law發展的當下,為了取得更好的效果

英特爾用“光”,突破了大模型時代棘手的算力難題——id128資訊網——每日最新資訊28at.com

推出業界首款全集成OCI(光學計算互連)芯片。id128資訊網——每日最新資訊28at.com

CPU、GPU的互連從1米飆至100米 英特爾:你相信光嗎?id128資訊網——每日最新資訊28at.com
△圖源:英特爾id128資訊網——每日最新資訊28at.com

要知道,在AI大模型遵循Scaling Law發展的當下,為了取得更好的效果,要么模型規模、要么數據規模,都在往更大的趨勢發展。id128資訊網——每日最新資訊28at.com

這就會導致AI大模型在算力層面上,對整個計算、存儲,包括中間I/O通信等提出更高的要求。id128資訊網——每日最新資訊28at.com

而英特爾此次的突破口,正是I/O通信:id128資訊網——每日最新資訊28at.com

在CPU和GPU中,用光學I/O取代電氣I/O進行數據傳輸。id128資訊網——每日最新資訊28at.com

有什么用?id128資訊網——每日最新資訊28at.com

一言蔽之,數據傳輸距離遠多了,量大了,功耗低了——更適合AI大模型的“體質”了。id128資訊網——每日最新資訊28at.com

CPU、GPU的互連從1米飆至100米 英特爾:你相信光嗎?id128資訊網——每日最新資訊28at.com
△圖源:英特爾id128資訊網——每日最新資訊28at.com

那么英特爾為什么要用到“光”?具體又是如何實現的?id128資訊網——每日最新資訊28at.com

用上了“光”,從馬車變卡車id128資訊網——每日最新資訊28at.com

傳統采用電氣I/O的方式(銅線連接)固然有它的優勢,例如支持高帶寬密度和低功耗,但致命的問題就是傳輸距離比較短(不到1米)。id128資訊網——每日最新資訊28at.com

這要放在一個機架里倒也是沒有問題,但AI大模型在算力上往往標配都是服務器集群這個量級。id128資訊網——每日最新資訊28at.com

不僅占地面積大,還跨N多個機架,線都是需要幾十米甚至上百米的長度,功耗那是相當的高;它會吃掉所有供給機架的電源,以至于沒有足夠的電去做計算和存儲芯片的讀寫操作。id128資訊網——每日最新資訊28at.com

除此之外,存算比方面,也正是因為大模型“大”的特點,由原來讀取一次做上百次計算的比例,到現在直接變成了接近1:1。id128資訊網——每日最新資訊28at.com

CPU、GPU的互連從1米飆至100米 英特爾:你相信光嗎?id128資訊網——每日最新資訊28at.com
△圖源:英特爾id128資訊網——每日最新資訊28at.com

這就需要一種新的辦法,可以在提高算力和存儲密度的同時降低功耗、縮小體積,從而在一個有限的空間里,放進更多的計算和存儲。id128資訊網——每日最新資訊28at.com

而用上了光學I/O,問題便迎刃而解了:id128資訊網——每日最新資訊28at.com

可在最長100米的光纖上,單向支持64個32Gbps通道。id128資訊網——每日最新資訊28at.com

一個形象的比喻就是,就好比從使用馬車(容量和距離有限)到使用小汽車和卡車來配送貨物(數量更大、距離更遠)。id128資訊網——每日最新資訊28at.com

不僅如此,即使是在相對較近的距離去完成一些更高密度、更靈活的數據傳輸工作,OCI這種方式則可以類比成摩托車,速度更快且更靈活。id128資訊網——每日最新資訊28at.com

CPU、GPU的互連從1米飆至100米 英特爾:你相信光嗎?id128資訊網——每日最新資訊28at.com

值得一提的是,這種OCI的方法不是停留在理論的那種。id128資訊網——每日最新資訊28at.com

據英特爾介紹,他們已經利用了實際驗證的硅光子技術,集成了包含片上激光器的硅光子集成電路(PIC)、光放大器和電子集成電路。id128資訊網——每日最新資訊28at.com

并且在此前也展示了與自家CPU封裝在一起的OCI芯粒,還能與下一代CPU、GPU、IPU等SOC(系統級芯片)集成。id128資訊網——每日最新資訊28at.com

還沒完,英特爾也已經出貨了超過800萬個硅光子集成電路,其中超過3200萬個現已投入使用的激光器。id128資訊網——每日最新資訊28at.com

CPU、GPU的互連從1米飆至100米 英特爾:你相信光嗎?id128資訊網——每日最新資訊28at.com
△圖源:英特爾id128資訊網——每日最新資訊28at.com

那么接下來的一個問題是:id128資訊網——每日最新資訊28at.com

英特爾的OCI是如何“煉”成的?id128資訊網——每日最新資訊28at.com

英特爾研究院副總裁、英特爾中國研究院院長宋繼強的交流過程中,他對這個問題做了深入的剖析和解讀。id128資訊網——每日最新資訊28at.com

CPU、GPU的互連從1米飆至100米 英特爾:你相信光嗎?id128資訊網——每日最新資訊28at.com
△英特爾研究院副總裁、英特爾中國研究院院長,宋繼強id128資訊網——每日最新資訊28at.com

硅光子技術集合了20世紀兩項最重要的發明:硅集成電路和半導體激光。id128資訊網——每日最新資訊28at.com

與傳統電子產品相比,它支持在較遠的距離內更快的數據傳輸速度,同時利用英特爾高容量硅產品制造的效率。id128資訊網——每日最新資訊28at.com

CPU、GPU的互連從1米飆至100米 英特爾:你相信光嗎?id128資訊網——每日最新資訊28at.com

英特爾這一次發布的硅光集成技術,OCI芯粒達到了光電共封裝的層面。id128資訊網——每日最新資訊28at.com

這個光電共封裝是把一個硅光子集成電路(PIC),和一個電子集成電路(EIC),放在一個基板上組成了一個OCI芯粒,作為一個集成性連接的部件。id128資訊網——每日最新資訊28at.com

這就意味著xPU,包括CPU,未來的GPU都可以和OCI芯片封裝在一起。id128資訊網——每日最新資訊28at.com

OCI芯粒就是把數據中心CPU出來的所有的電氣I/O信號轉成了光,通過光纖,在兩個數據中心的節點或者是系統里面去互相傳輸。id128資訊網——每日最新資訊28at.com

目前的雙向數據傳輸速度達到了4Tbps,它在上層的傳輸協議兼容到PCIe 5.0,單向支持64個32Gbps通道,這在目前的數據中心當中是足夠用的:id128資訊網——每日最新資訊28at.com

它采用8對光纖,功耗僅為每比特5皮焦耳(pJ),即10-12焦耳,這個數據比可插拔光收發器模塊的功耗降了3倍(后者是每比特15皮焦耳)。id128資訊網——每日最新資訊28at.com

CPU、GPU的互連從1米飆至100米 英特爾:你相信光嗎?id128資訊網——每日最新資訊28at.com
△圖源:英特爾id128資訊網——每日最新資訊28at.com

在一個光傳輸的通道里,它實際上有8個不同的波段,每個波段的頻率間隔是200GHz,一共占用了1.6THz光譜的間距用來傳輸。id128資訊網——每日最新資訊28at.com

光從可見光到不可見光,實際上它的頻譜寬度是很寬的,從THz開始就算是接近光通訊了。id128資訊網——每日最新資訊28at.com

CPU、GPU的互連從1米飆至100米 英特爾:你相信光嗎?id128資訊網——每日最新資訊28at.com

那么OCI芯粒未來會用在哪些領域呢?id128資訊網——每日最新資訊28at.com

對此,宋繼強表示:id128資訊網——每日最新資訊28at.com

一個是可以用它來實現通信,還可以把它跟CPU、GPU這些計算芯片封裝在一起,計算加通信非常緊密地封裝在一起。id128資訊網——每日最新資訊28at.com

我們通過硅光集成和先進封裝技術,先進封裝英特爾也有非常多不同的技術,就可以實現更高密度的I/O芯粒,然后再和其它的xPU結合,未來基于芯粒,形成很多不同種類的計算加互連的芯片種類,會有非常好的應用前景。id128資訊網——每日最新資訊28at.com

就OCI I/O接口芯粒的性能演進路線圖來看,它目前可以達到32Tbps傳輸速度的技術方案,主要靠迭代式的穩步提升三個方面的指標,分別是:id128資訊網——每日最新資訊28at.com

-一根光纖里有8段穩定的波段id128資訊網——每日最新資訊28at.com

-每一個波段的光數據傳輸率為32Gbpsid128資訊網——每日最新資訊28at.com

-可同時拉8對光纖且互不影響id128資訊網——每日最新資訊28at.com

這三個指標乘起來,就是目前單向上有2Tbps的數據傳輸速度,雙向即是4Tbps。未來可以繼續向上演進,逐步提升帶寬能力。id128資訊網——每日最新資訊28at.com

CPU、GPU的互連從1米飆至100米 英特爾:你相信光嗎?id128資訊網——每日最新資訊28at.com
△圖源:英特爾id128資訊網——每日最新資訊28at.com

最后,英特爾在硅光集成技術的差異化方面,宋繼強也做出了解釋:id128資訊網——每日最新資訊28at.com

主要是我們把高頻率的激光發射器做在了晶圓上,又把硅的光放大器也集成上去,這是兩個比較核心的技術,都是在晶圓級去制造出來的。id128資訊網——每日最新資訊28at.com

接下來,我們可以量產這樣的高集成度激光器,因為這種在片上的激光器的好處是用普通的光纖就可以去傳輸了。id128資訊網——每日最新資訊28at.com

并且在穩定性方面,幾乎是100億小時才有可能發生一次錯誤。id128資訊網——每日最新資訊28at.com

那么你覺得英特爾pick的“光”如何呢?歡迎在評論區留言討論。id128資訊網——每日最新資訊28at.com

參考鏈接:id128資訊網——每日最新資訊28at.com

[1]https://mp.weixin.qq.com/s/ozx_ficqlxjEPKa5AlBdfAid128資訊網——每日最新資訊28at.com

[2]https://community.intel.com/t5/Blogs/Tech-Innovation/Artificial-Intelligence-AI/Intel-Shows-OCI-Optical-I-O-Chiplet-Co-packaged-with-CPU-at/post/1582541id128資訊網——每日最新資訊28at.com

[3]https://www.youtube.com/watch?v=Fml3yuPR2AUid128資訊網——每日最新資訊28at.com

本文鏈接:http://www.www897cc.com/showinfo-25-103943-0.htmlCPU、GPU的互連從1米飆至100米 英特爾:你相信光嗎?

聲明:本網頁內容旨在傳播知識,若有侵權等問題請及時與本網聯系,我們將在第一時間刪除處理。郵件:2376512515@qq.com

上一篇: 5月iOS設備好評榜:老款iPad Pro依然能戰

下一篇: 3888元!115網盤長期超級VIP特惠:500TB海量空間

標簽:
  • 熱門焦點
  • MIX Fold3包裝盒泄露 新機本月登場

    小米的全新折疊屏旗艦MIX Fold3將于本月發布,近日該機的真機包裝盒在網上泄露。從圖上來看,新的MIX Fold3包裝盒在外觀設計方面延續了之前的方案,變化不大,這也是目前小米旗艦
  • K6:面向開發人員的現代負載測試工具

    K6 是一個開源負載測試工具,可以輕松編寫、運行和分析性能測試。它建立在 Go 和 JavaScript 之上,它被設計為功能強大、可擴展且易于使用。k6 可用于測試各種應用程序,包括 Web
  • Java NIO內存映射文件:提高文件讀寫效率的優秀實踐!

    Java的NIO庫提供了內存映射文件的支持,它可以將文件映射到內存中,從而可以更快地讀取和寫入文件數據。本文將對Java內存映射文件進行詳細的介紹和演示。內存映射文件概述內存
  • 三言兩語說透柯里化和反柯里化

    JavaScript中的柯里化(Currying)和反柯里化(Uncurrying)是兩種很有用的技術,可以幫助我們寫出更加優雅、泛用的函數。本文將首先介紹柯里化和反柯里化的概念、實現原理和應用
  • 虛擬鍵盤 API 的妙用

    你是否在遇到過這樣的問題:移動設備上有一個固定元素,當激活虛擬鍵盤時,該元素被隱藏在了鍵盤下方?多年來,這一直是 Web 上的默認行為,在本文中,我們將探討這個問題、為什么會發生
  • 阿里大調整

    來源:產品劉有媒體報道稱,近期淘寶天貓集團啟動了近年來最大的人力制度改革,涉及員工績效、層級體系等多個核心事項,目前已形成一個初步的“征求意見版”:1、取消P序列
  • 聯想YOGA 16s 2022筆記本將要推出,屏幕支持觸控功能

    聯想此前宣布,將于11月2日19:30召開聯想秋季輕薄新品發布會,推出聯想 YOGA 16s 2022 筆記本等新品。官方稱,YOGA 16s 2022 筆記本將搭載 16 英寸屏幕,并且是一
  • 華為舉行春季智慧辦公新品發布會 首次推出電子墨水屏平板

    北京時間2月27日晚,華為在巴塞羅那舉行春季智慧辦公新品發布會,在海外市場推出之前已經在中國市場上市的筆記本、平板、激光打印機等辦公產品,并首次推出搭載
  • 榮耀Magic4 至臻版 首創智慧隱私通話 強勁影音系統

    2022年第一季度臨近尾聲,在該季度內,許多品牌陸續發布自己的最新產品,讓大家從全新的角度來了解當今的手機技術。手機是電子設備中,更新迭代十分迅速的一款產品,基
Top 主站蜘蛛池模板: 涞水县| 肇庆市| 托克托县| 沂南县| 合阳县| 泾阳县| 天台县| 信宜市| 凤凰县| 宣城市| 珲春市| 贺兰县| 嘉祥县| 香港 | 乐山市| 九台市| 兴隆县| 齐河县| 沈丘县| 平罗县| 聂拉木县| 漳州市| 阿克陶县| 瑞金市| 龙州县| 马龙县| 麻栗坡县| 子洲县| 汶川县| 屯昌县| 古丈县| 赤壁市| 喀什市| 高陵县| 慈溪市| 宁阳县| 乃东县| 建始县| 武川县| 云南省| 临海市|