日韩成人免费在线_国产成人一二_精品国产免费人成电影在线观..._日本一区二区三区久久久久久久久不

當前位置:首頁 > 科技  > 數(shù)碼

CPU、GPU的互連從1米飆至100米 英特爾:你相信光嗎?

來源: 責編: 時間:2024-07-27 15:21:47 428觀看
導讀 英特爾用“光”,突破了大模型時代棘手的算力難題——推出業(yè)界首款全集成OCI(光學計算互連)芯片。△圖源:英特爾要知道,在AI大模型遵循Scaling Law發(fā)展的當下,為了取得更好的效果,要么模型規(guī)模

英特爾用“光”,突破了大模型時代棘手的算力難題——OzG28資訊網(wǎng)——每日最新資訊28at.com

推出業(yè)界首款全集成OCI(光學計算互連)芯片。OzG28資訊網(wǎng)——每日最新資訊28at.com

CPU、GPU的互連從1米飆至100米 英特爾:你相信光嗎?△圖源:英特爾OzG28資訊網(wǎng)——每日最新資訊28at.com

要知道,在AI大模型遵循Scaling Law發(fā)展的當下,為了取得更好的效果,要么模型規(guī)模、要么數(shù)據(jù)規(guī)模,都在往更大的趨勢發(fā)展。OzG28資訊網(wǎng)——每日最新資訊28at.com

這就會導致AI大模型在算力層面上,對整個計算、存儲,包括中間I/O通信等提出更高的要求。OzG28資訊網(wǎng)——每日最新資訊28at.com

而英特爾此次的突破口,正是I/O通信:OzG28資訊網(wǎng)——每日最新資訊28at.com

在CPU和GPU中,用光學I/O取代電氣I/O進行數(shù)據(jù)傳輸。OzG28資訊網(wǎng)——每日最新資訊28at.com

有什么用?OzG28資訊網(wǎng)——每日最新資訊28at.com

一言蔽之,數(shù)據(jù)傳輸距離遠多了,量大了,功耗低了——更適合AI大模型的“體質(zhì)”了。OzG28資訊網(wǎng)——每日最新資訊28at.com

CPU、GPU的互連從1米飆至100米 英特爾:你相信光嗎?△圖源:英特爾OzG28資訊網(wǎng)——每日最新資訊28at.com

那么英特爾為什么要用到“光”?具體又是如何實現(xiàn)的?OzG28資訊網(wǎng)——每日最新資訊28at.com

用上了“光”,從馬車變卡車OzG28資訊網(wǎng)——每日最新資訊28at.com

傳統(tǒng)采用電氣I/O的方式(銅線連接)固然有它的優(yōu)勢,例如支持高帶寬密度和低功耗,但致命的問題就是傳輸距離比較短(不到1米)。OzG28資訊網(wǎng)——每日最新資訊28at.com

這要放在一個機架里倒也是沒有問題,但AI大模型在算力上往往標配都是服務(wù)器集群這個量級。OzG28資訊網(wǎng)——每日最新資訊28at.com

不僅占地面積大,還跨N多個機架,線都是需要幾十米甚至上百米的長度,功耗那是相當?shù)母撸凰鼤缘羲泄┙o機架的電源,以至于沒有足夠的電去做計算和存儲芯片的讀寫操作。OzG28資訊網(wǎng)——每日最新資訊28at.com

除此之外,存算比方面,也正是因為大模型“大”的特點,由原來讀取一次做上百次計算的比例,到現(xiàn)在直接變成了接近1:1。OzG28資訊網(wǎng)——每日最新資訊28at.com

CPU、GPU的互連從1米飆至100米 英特爾:你相信光嗎?△圖源:英特爾OzG28資訊網(wǎng)——每日最新資訊28at.com

這就需要一種新的辦法,可以在提高算力和存儲密度的同時降低功耗、縮小體積,從而在一個有限的空間里,放進更多的計算和存儲。OzG28資訊網(wǎng)——每日最新資訊28at.com

而用上了光學I/O,問題便迎刃而解了:OzG28資訊網(wǎng)——每日最新資訊28at.com

可在長100米的光纖上,單向支持64個32Gbps通道。OzG28資訊網(wǎng)——每日最新資訊28at.com

一個形象的比喻就是,就好比從使用馬車(容量和距離有限)到使用小汽車和卡車來配送貨物(數(shù)量更大、距離更遠)。OzG28資訊網(wǎng)——每日最新資訊28at.com

不僅如此,即使是在相對較近的距離去完成一些更高密度、更靈活的數(shù)據(jù)傳輸工作,OCI這種方式則可以類比成摩托車,速度更快且更靈活。OzG28資訊網(wǎng)——每日最新資訊28at.com

CPU、GPU的互連從1米飆至100米 英特爾:你相信光嗎?OzG28資訊網(wǎng)——每日最新資訊28at.com

值得一提的是,這種OCI的方法不是停留在理論的那種。OzG28資訊網(wǎng)——每日最新資訊28at.com

據(jù)英特爾介紹,他們已經(jīng)利用了實際驗證的硅光子技術(shù),集成了包含片上激光器的硅光子集成電路(PIC)、光放大器和電子集成電路。OzG28資訊網(wǎng)——每日最新資訊28at.com

并且在此前也展示了與自家CPU封裝在一起的OCI芯粒,還能與下一代CPU、GPU、IPU等SOC(系統(tǒng)級芯片)集成。OzG28資訊網(wǎng)——每日最新資訊28at.com

還沒完,英特爾也已經(jīng)出貨了超過800萬個硅光子集成電路,其中超過3200萬個現(xiàn)已投入使用的激光器。OzG28資訊網(wǎng)——每日最新資訊28at.com

CPU、GPU的互連從1米飆至100米 英特爾:你相信光嗎?△圖源:英特爾OzG28資訊網(wǎng)——每日最新資訊28at.com

那么接下來的一個問題是:OzG28資訊網(wǎng)——每日最新資訊28at.com

英特爾的OCI是如何“煉”成的?OzG28資訊網(wǎng)——每日最新資訊28at.com

英特爾研究院副總裁、英特爾中國研究院院長宋繼強的交流過程中,他對這個問題做了深入的剖析和解讀。OzG28資訊網(wǎng)——每日最新資訊28at.com

CPU、GPU的互連從1米飆至100米 英特爾:你相信光嗎?△英特爾研究院副總裁、英特爾中國研究院院長,宋繼強OzG28資訊網(wǎng)——每日最新資訊28at.com

硅光子技術(shù)集合了20世紀兩項重要的發(fā)明:硅集成電路和半導體激光。OzG28資訊網(wǎng)——每日最新資訊28at.com

與傳統(tǒng)電子產(chǎn)品相比,它支持在較遠的距離內(nèi)更快的數(shù)據(jù)傳輸速度,同時利用英特爾高容量硅產(chǎn)品制造的效率。OzG28資訊網(wǎng)——每日最新資訊28at.com

CPU、GPU的互連從1米飆至100米 英特爾:你相信光嗎?OzG28資訊網(wǎng)——每日最新資訊28at.com

英特爾這一次發(fā)布的硅光集成技術(shù),OCI芯粒達到了光電共封裝的層面。OzG28資訊網(wǎng)——每日最新資訊28at.com

這個光電共封裝是把一個硅光子集成電路(PIC),和一個電子集成電路(EIC),放在一個基板上組成了一個OCI芯粒,作為一個集成性連接的部件。OzG28資訊網(wǎng)——每日最新資訊28at.com

這就意味著xPU,包括CPU,未來的GPU都可以和OCI芯片封裝在一起。OzG28資訊網(wǎng)——每日最新資訊28at.com

OCI芯粒就是把數(shù)據(jù)中心CPU出來的所有的電氣I/O信號轉(zhuǎn)成了光,通過光纖,在兩個數(shù)據(jù)中心的節(jié)點或者是系統(tǒng)里面去互相傳輸。OzG28資訊網(wǎng)——每日最新資訊28at.com

目前的雙向數(shù)據(jù)傳輸速度達到了4Tbps,它在上層的傳輸協(xié)議兼容到PCIe 5.0,單向支持64個32Gbps通道,這在目前的數(shù)據(jù)中心當中是足夠用的:OzG28資訊網(wǎng)——每日最新資訊28at.com

它采用8對光纖,功耗僅為每比特5皮焦耳(pJ),即10-12焦耳,這個數(shù)據(jù)比可插拔光收發(fā)器模塊的功耗降了3倍(后者是每比特15皮焦耳)。OzG28資訊網(wǎng)——每日最新資訊28at.com

CPU、GPU的互連從1米飆至100米 英特爾:你相信光嗎?△圖源:英特爾OzG28資訊網(wǎng)——每日最新資訊28at.com

在一個光傳輸?shù)耐ǖ览铮鼘嶋H上有8個不同的波段,每個波段的頻率間隔是200GHz,一共占用了1.6THz光譜的間距用來傳輸。OzG28資訊網(wǎng)——每日最新資訊28at.com

光從可見光到不可見光,實際上它的頻譜寬度是很寬的,從THz開始就算是接近光通訊了。OzG28資訊網(wǎng)——每日最新資訊28at.com

CPU、GPU的互連從1米飆至100米 英特爾:你相信光嗎?OzG28資訊網(wǎng)——每日最新資訊28at.com

那么OCI芯粒未來會用在哪些領(lǐng)域呢?OzG28資訊網(wǎng)——每日最新資訊28at.com

對此,宋繼強表示:OzG28資訊網(wǎng)——每日最新資訊28at.com

一個是可以用它來實現(xiàn)通信,還可以把它跟CPU、GPU這些計算芯片封裝在一起,計算加通信非常緊密地封裝在一起。OzG28資訊網(wǎng)——每日最新資訊28at.com

我們通過硅光集成和先進封裝技術(shù),先進封裝英特爾也有非常多不同的技術(shù),就可以實現(xiàn)更高密度的I/O芯粒,然后再和其它的xPU結(jié)合,未來基于芯粒,形成很多不同種類的計算加互連的芯片種類,會有非常好的應(yīng)用前景。OzG28資訊網(wǎng)——每日最新資訊28at.com

就OCI I/O接口芯粒的性能演進路線圖來看,它目前可以達到32Tbps傳輸速度的技術(shù)方案,主要靠迭代式的穩(wěn)步提升三個方面的指標,分別是:OzG28資訊網(wǎng)——每日最新資訊28at.com

-一根光纖里有8段穩(wěn)定的波段OzG28資訊網(wǎng)——每日最新資訊28at.com

-每一個波段的光數(shù)據(jù)傳輸率為32GbpsOzG28資訊網(wǎng)——每日最新資訊28at.com

-可同時拉8對光纖且互不影響OzG28資訊網(wǎng)——每日最新資訊28at.com

這三個指標乘起來,就是目前單向上有2Tbps的數(shù)據(jù)傳輸速度,雙向即是4Tbps。未來可以繼續(xù)向上演進,逐步提升帶寬能力。OzG28資訊網(wǎng)——每日最新資訊28at.com

CPU、GPU的互連從1米飆至100米 英特爾:你相信光嗎?△圖源:英特爾OzG28資訊網(wǎng)——每日最新資訊28at.com

后,英特爾在硅光集成技術(shù)的差異化方面,宋繼強也做出了解釋:OzG28資訊網(wǎng)——每日最新資訊28at.com

主要是我們把高頻率的激光發(fā)射器做在了晶圓上,又把硅的光放大器也集成上去,這是兩個比較核心的技術(shù),都是在晶圓級去制造出來的。OzG28資訊網(wǎng)——每日最新資訊28at.com

接下來,我們可以量產(chǎn)這樣的高集成度激光器,因為這種在片上的激光器的好處是用普通的光纖就可以去傳輸了。OzG28資訊網(wǎng)——每日最新資訊28at.com

并且在穩(wěn)定性方面,幾乎是100億小時才有可能發(fā)生一次錯誤。OzG28資訊網(wǎng)——每日最新資訊28at.com

那么你覺得英特爾pick的“光”如何呢?歡迎在評論區(qū)留言討論。OzG28資訊網(wǎng)——每日最新資訊28at.com

參考鏈接:OzG28資訊網(wǎng)——每日最新資訊28at.com

[1]https://mp.weixin.qq.com/s/ozx_ficqlxjEPKa5AlBdfAOzG28資訊網(wǎng)——每日最新資訊28at.com

[2]https://community.intel.com/t5/Blogs/Tech-Innovation/Artificial-Intelligence-AI/Intel-Shows-OCI-Optical-I-O-Chiplet-Co-packaged-with-CPU-at/post/1582541OzG28資訊網(wǎng)——每日最新資訊28at.com

[3]https://www.youtube.com/watch?v=Fml3yuPR2AUOzG28資訊網(wǎng)——每日最新資訊28at.com


文章出處:量子位

本文鏈接:http://www.www897cc.com/showinfo-24-103857-0.htmlCPU、GPU的互連從1米飆至100米 英特爾:你相信光嗎?

聲明:本網(wǎng)頁內(nèi)容旨在傳播知識,若有侵權(quán)等問題請及時與本網(wǎng)聯(lián)系,我們將在第一時間刪除處理。郵件:2376512515@qq.com

上一篇: 遲來的PCIe 4.0 SSD王者!SK海力士Platinum P41 2TB評測:緩外低速度超1.6GB/s

下一篇: 支持25Gbps大帶寬!華為全新一代微波產(chǎn)品斬獲國際雙料大獎

標簽:
  • 熱門焦點
  • 帥氣純真少年!日本最帥初中生選美冠軍出爐

    日本第一帥哥初一生選美大賽冠軍現(xiàn)已正式出爐,冠軍是來自千葉縣的宗田悠良。日本一直熱衷于各種選美大賽,從“最美JK”起到“最美女星&r
  • CSS單標簽實現(xiàn)轉(zhuǎn)轉(zhuǎn)logo

    轉(zhuǎn)轉(zhuǎn)品牌升級后更新了全新的Logo,今天我們用純CSS來實現(xiàn)轉(zhuǎn)轉(zhuǎn)的新Logo,為了有一定的挑戰(zhàn)性,這里我們只使用一個標簽實現(xiàn),將最大化的使用CSS能力完成Logo的繪制與動畫效果。新logo
  • 三言兩語說透設(shè)計模式的藝術(shù)-單例模式

    寫在前面單例模式是一種常用的軟件設(shè)計模式,它所創(chuàng)建的對象只有一個實例,且該實例易于被外界訪問。單例對象由于只有一個實例,所以它可以方便地被系統(tǒng)中的其他對象共享,從而減少
  • 深度探索 Elasticsearch 8.X:function_score 參數(shù)解讀與實戰(zhàn)案例分析

    在 Elasticsearch 中,function_score 可以讓我們在查詢的同時對搜索結(jié)果進行自定義評分。function_score 提供了一系列的參數(shù)和函數(shù)讓我們可以根據(jù)需求靈活地進行設(shè)置。近期
  • 共享單車的故事講到哪了?

    來源丨海克財經(jīng)與共享充電寶相差不多,共享單車已很久沒有被國內(nèi)熱點新聞關(guān)照到了。除了一再漲價和用戶直呼用不起了。近日多家媒體再發(fā)報道稱,成都、天津、鄭州等地多個共享單
  • 花7萬退貨退款無門:誰在縱容淘寶珠寶商家造假?

    來源:極點商業(yè)作者:楊銘在淘寶購買珠寶玉石后,因為保證金不夠賠付,店鋪關(guān)閉,退貨退款難、維權(quán)無門的比比皆是。“提供相關(guān)產(chǎn)品鑒定證書,支持全國復檢,可以30天無理由退換貨。&
  • 2299元起!iQOO Pad開啟預售:性能最強天璣平板

    5月23日,iQOO如期舉行了新品發(fā)布會,除了首發(fā)安卓最強旗艦處理器的iQOO Neo8系列新機外,還在發(fā)布會上推出了旗下首款平板電腦——iQOO Pad,其搭載了天璣
  • 滴滴違法違規(guī)被罰80.26億 共存在16項違法事實

    滴滴違法違規(guī)被罰80.26億 存在16項違法事實開始于2121年7月,歷經(jīng)一年時間,網(wǎng)絡(luò)安全審查辦公室對“滴滴出行”網(wǎng)絡(luò)安全審查終于有了一個暫時的結(jié)束。據(jù)“網(wǎng)信
  • 聯(lián)想YOGA 16s 2022筆記本將要推出,屏幕支持觸控功能

    聯(lián)想此前宣布,將于11月2日19:30召開聯(lián)想秋季輕薄新品發(fā)布會,推出聯(lián)想 YOGA 16s 2022 筆記本等新品。官方稱,YOGA 16s 2022 筆記本將搭載 16 英寸屏幕,并且是一
Top 主站蜘蛛池模板: 合肥市| 九龙县| 永平县| 绿春县| 巩义市| 三亚市| 思茅市| 峨眉山市| 珲春市| 平果县| 仙桃市| 上高县| 哈巴河县| 石棉县| 延津县| 墨江| 德安县| 会宁县| 高淳县| 工布江达县| 营口市| 莱阳市| 江津市| 连山| 邢台市| 禹城市| 婺源县| 潜江市| 凌海市| 香港| 宜良县| 民勤县| 鹰潭市| 沧州市| 嘉黎县| 临江市| 栾川县| 江都市| 错那县| 东安县| 阜宁县|