對標(biāo)蘋果的靈動島 華為帶來實況窗功能
繼蘋果的靈動島之后，華為也在今天正式推出了“實況窗”功能。據(jù)今天鴻蒙OS 4.0的現(xiàn)場演示顯示，華為的實況窗可以更高效的展現(xiàn)出實時通知，比如鎖屏上就能看到外賣、打車、銀行
近年來，人工智能數(shù)據(jù)中心的能耗問題引起廣泛關(guān)注。這一現(xiàn)象的主要原因之一是由于人工智能工作負載的不斷增加，人工智能GPU和處理器的迅速發(fā)展，以及其他硬件需求的提高。
在此過程中，人工智能GPU功耗的飆升引人注目，例如，2022年的H100功耗高達700W，相較于Nvidia 2020年的A100，增加了近一倍。AI服務(wù)器不僅運行高功耗的GPU，還需要處理電力的CPU和網(wǎng)卡。
AI工作負載，尤其是與訓(xùn)練相關(guān)的負載，對計算資源有巨大需求，包括配備AI GPU、專用ASIC或CPU的服務(wù)器。人工智能集群的規(guī)模取決于模型的復(fù)雜性和規(guī)模，對功耗起著主導(dǎo)作用。更龐大的人工智能模型需要更多的GPU，從而增加了總體能源需求。例如，一個擁有22,000個H100 GPU的集群使用700個機架，總密度為80 kW，需要約31兆瓦的電力，不包括冷卻等基礎(chǔ)設(shè)施需求。
這些集群和GPU通常在整個訓(xùn)練過程中幾乎滿負荷運行，確保平均能耗幾乎與峰值功耗相同。機架密度在30kW到100kW之間，具體取決于GPU的數(shù)量和型號。
網(wǎng)絡(luò)延遲在人工智能數(shù)據(jù)中心的功耗中也起著至關(guān)重要的作用。支持分布式訓(xùn)練過程中強大GPU所需的高速數(shù)據(jù)通信，對復(fù)雜的網(wǎng)絡(luò)基礎(chǔ)設(shè)施至關(guān)重要。對高速網(wǎng)絡(luò)電纜和基礎(chǔ)設(shè)施的需求進一步增加了總體能耗。
考慮到人工智能工作負載對ASIC、GPU、CPU、網(wǎng)卡和SSD的高耗電需求，冷卻成為一項嚴峻挑戰(zhàn)。高機架密度和計算中產(chǎn)生的巨大熱量使得有效的冷卻解決方案至關(guān)重要。然而，空氣和液體冷卻方法的高成本也對用于人工智能工作負載的數(shù)據(jù)中心的功耗產(chǎn)生重大影響。
本文鏈接：http://www.www897cc.com/showinfo-27-34391-0.htmlAI GPU 變得更加“饑餓”：功耗之謎與挑戰(zhàn)
聲明：本網(wǎng)頁內(nèi)容旨在傳播知識，若有侵權(quán)等問題請及時與本網(wǎng)聯(lián)系，我們將在第一時間刪除處理。郵件：2376512515@qq.com
Copyright ? 2016-2023 天津谷騏科技有限公司 版權(quán)所有 sitemap.xml
違法及侵權(quán)請聯(lián)系：2376512515@qq.com 津ICP備18001702號
津公網(wǎng)安備 12010102000574號