鴻蒙OS 4.0公測(cè)機(jī)型公布：甚至連nova6都支持
華為全新的HarmonyOS 4.0操作系統(tǒng)將于今天下午正式登場(chǎng)，官方在發(fā)布會(huì)之前也已經(jīng)正式給出了可升級(jí)的機(jī)型產(chǎn)品，這意味著這些機(jī)型會(huì)率先支持升級(jí)享用。這次的HarmonyOS 4.0支持
6月底，谷歌新一代開源模型Gemma2發(fā)布，相比今年早些時(shí)候推出的輕量級(jí)開源模型Gemma，Gemma2有了90億（9B）和270億（27B）兩種參數(shù)規(guī)模可用。
就在谷歌摩拳擦掌準(zhǔn)備與OpenAI一較高下時(shí)，前幾天其發(fā)布的一份報(bào)告卻引來了媒體的“擔(dān)憂”——谷歌新發(fā)布的環(huán)境報(bào)告指出，自2019年以來，其溫室氣體總排放量增長(zhǎng)了48%。
僅去年一年谷歌就產(chǎn)生了1430萬噸二氧化碳，同比2022年增長(zhǎng)13%，主要由于來自范圍2的碳排放同比增長(zhǎng)37%。
這些數(shù)據(jù)顯然與谷歌“2030年實(shí)現(xiàn)零排放”的目標(biāo)南轅北轍了，作為全球大的互聯(lián)網(wǎng)科技巨頭之一，如此“奔放”的碳排放數(shù)據(jù)顯然會(huì)為其招來各種非議。
為何碳排放大增？
在谷歌發(fā)布的環(huán)境報(bào)告中，其將碳排放量激增歸因于數(shù)據(jù)中心的能源的使用和供應(yīng)鏈排放的增加。自互聯(lián)網(wǎng)誕生以來，數(shù)據(jù)中心一直是高能耗的代表，而今用于訓(xùn)練人工智能的數(shù)據(jù)中心更是如此。
谷歌在報(bào)告中稱：“隨著我們進(jìn)一步將人工智能融入到產(chǎn)品中，減少碳排放變得更具有挑戰(zhàn)性，因?yàn)槿斯ぶ悄苡?jì)算強(qiáng)度的提高導(dǎo)致能源需求增加，而基礎(chǔ)設(shè)施投資的增加也會(huì)導(dǎo)致碳排放增加。”
據(jù)報(bào)告數(shù)據(jù)顯示，谷歌僅數(shù)據(jù)中心的用電量在2023年就增長(zhǎng)了17%，預(yù)計(jì)這一“趨勢(shì)”將在未來持續(xù)下去。
實(shí)際上，谷歌的碳排放已經(jīng)是“極力優(yōu)化”的結(jié)果了，報(bào)告指出截至2023年底，谷歌連續(xù)七年實(shí)現(xiàn)100%可再生能源消耗，并借此在2023年實(shí)現(xiàn)了63%的碳排放減少。
圖源：谷歌2024環(huán)境報(bào)告
在此基礎(chǔ)上，碳排放之所以仍然大幅增長(zhǎng)，主要是因?yàn)閿?shù)據(jù)中心耗能太大，但可再生能源有限，無可奈何。
報(bào)告原文指出，谷歌已經(jīng)努力在全球?qū)崿F(xiàn)100%可再生能源匹配的目標(biāo)，但GHG協(xié)議為能源采購(gòu)確立了范圍以減少范圍2的排放。這就導(dǎo)致在一些地區(qū)我們購(gòu)買的清潔能源比我們的電力消耗量更多（例如歐洲），但在其他地區(qū)（如亞太地區(qū)）由于清潔能源采購(gòu)具備一定挑戰(zhàn)，導(dǎo)致采購(gòu)不足。這之間的差異是范圍2碳排放統(tǒng)計(jì)增加的原因。
圖源：谷歌2024環(huán)境報(bào)告
總而言之，谷歌想表達(dá)的無非是“我很努力，但在AI革命的浪潮下無計(jì)可施”，頗有一種“發(fā)展才是硬道理的意思”。
的確，以如今AI爆發(fā)的勢(shì)頭，如果讓能源卡了自己的脖子，導(dǎo)致大模型落后于OpenAI，以至于丟了人工智能時(shí)代的“船票”，那可不是谷歌愿意看到的結(jié)果。
雖然谷歌在報(bào)告中給出了后續(xù)解法，比如正在努力提高其人工智能模型、硬件和數(shù)據(jù)中心的能源效率，以及計(jì)劃到2030 年實(shí)現(xiàn)24/7全天候無碳能源（CFE）這一終極目標(biāo)。但隨著人工智能的不斷發(fā)展，大模型的不斷迭代，谷歌需要的能耗依然是只會(huì)多不會(huì)少。
未來，谷歌大概率將持續(xù)面對(duì)來自公眾及媒體關(guān)于氣候議題的壓力。
AI何以成為“吃電狂魔”？
谷歌并不是唯一一家碳排放不斷增加的科技公司。
今年5月，微軟透露自2020年以來，其二氧化碳排放量增加了近30%。而為OpenAI提供大量計(jì)算的雷德蒙德也將排放量的增加歸咎于其云計(jì)算和人工智能業(yè)務(wù)部門的數(shù)據(jù)中心設(shè)施的建設(shè)和配置。
可以說，正在自己開發(fā)大模型的互聯(lián)網(wǎng)科技公司幾乎都有“能耗/碳排放巨大”的問題。
大模型究竟有多耗電？靈碳智能創(chuàng)始人李博杰告訴虎嗅，根據(jù)推測(cè)，以GPT-4為例，其訓(xùn)練使用了25000張a100，并花了90-100天進(jìn)行訓(xùn)練，預(yù)計(jì)總耗電量在51,000mwh - 62,000mwh左右。
而一戶普通人家一年的用電量大概在1000kwh左右，因此全部訓(xùn)練耗能相當(dāng)于5萬戶人家一年的用電量；同時(shí)，此耗電量相當(dāng)于三峽大壩一年發(fā)電量（按一年發(fā)電1000億千瓦時(shí)計(jì)算）的0.05%，發(fā)電側(cè)使用的水量約為2.3億立方米（三峽電站標(biāo)準(zhǔn)）。
從使用側(cè)來看，1次GPT-4查詢估計(jì)消耗約0.005 kwh。根據(jù)OpenAI公布的數(shù)據(jù)，GPT每天在全球有數(shù)億次查詢，保守估計(jì)每天消耗的電量為1gwh。
按一戶普通人家一年用電1000kwh算，每天模型推理耗能相當(dāng)于1000戶人家一年的用電量；若按年計(jì)算，OpenAI消耗的能源在90-200gwh左右，相當(dāng)于三峽大壩一年發(fā)電量（按一年發(fā)電1000億千瓦時(shí)計(jì)算）的0.2%，發(fā)電側(cè)使用的水量約為9億立方米（三峽電站標(biāo)準(zhǔn)）。
荷蘭科學(xué)家亞歷克斯·德弗里斯也在他的論文中指出，到2027年，AI耗電量或?qū)⒔咏丝诔^1000萬的瑞典或1700萬人口的荷蘭一年的總用電量，相當(dāng)于當(dāng)前全球用電量的0.5%。
一筆賬算完堪稱恐怖，也怪不得黃仁勛與山姆·奧特曼都會(huì)喊出“未來AI的技術(shù)取決于能源”這一論調(diào)了。
一個(gè)很重要的問題是，為什么人工智能大模型如此耗能？
從技術(shù)原理的角度看，李博杰認(rèn)為主要有4點(diǎn)原因：
目前主流的LLM模型采用了基于transformer架構(gòu)的深度神經(jīng)網(wǎng)絡(luò)算法，這種架構(gòu)的算法通過自注意力機(jī)制處理數(shù)據(jù)，并考慮序列的不同部分或句子的整個(gè)上下文，從而生成對(duì)模型結(jié)果的預(yù)測(cè)。市面上先進(jìn)的LLM通常包含了萬億級(jí)別的參數(shù)，參數(shù)越多，模型復(fù)雜度越高，訓(xùn)練時(shí)的計(jì)算量就越大。
模型訓(xùn)練的基礎(chǔ)數(shù)據(jù)（如大規(guī)模語料庫(kù)）的存儲(chǔ)、處理都需要消耗大量的能源。
目前的LLM都采用了并行化的方式進(jìn)行計(jì)算，所以對(duì)高性能的GPU集群有著大量的要求。高性能的GPU的運(yùn)作不僅消耗大量的能源，同時(shí)也對(duì)冷卻系統(tǒng)提出了很高的要求。
LLM的推理階段，用戶每一次查詢都涉及能源的消耗。
這些因素共同導(dǎo)致了人工智能大模型在訓(xùn)練和推理過程中會(huì)消耗大量能源。
而當(dāng)下巨頭混戰(zhàn)大模型的背后，映射的也是全球能源消耗的大增。根據(jù)國(guó)際能源署的數(shù)據(jù)，2022年美國(guó)2,700個(gè)數(shù)據(jù)中心消耗了全國(guó)總電力的 4% 以上；到2026年，全球數(shù)據(jù)中心的電力消耗可能會(huì)翻一番。
隨后，高盛在2024年4月的一項(xiàng)分析預(yù)測(cè)，至本世紀(jì)末全球數(shù)據(jù)中心的用電量將增加1.8倍至3.4倍。
華盛頓郵報(bào)則是直接指出，不斷飆升的用電需求引發(fā)了人們的爭(zhēng)奪，試圖從老化的電網(wǎng)中榨取更多的電力。但據(jù)美國(guó)能源信息署數(shù)據(jù)顯示，2023年，美國(guó)全口徑凈發(fā)電量為41781.71億千瓦時(shí)，比上一年下降1.2%。近十年來，美國(guó)的全年凈發(fā)電量一直在40000億千瓦時(shí)的邊緣徘徊。
無可否認(rèn)，能源危機(jī)（主要是電）已近在眼前，且很可能成為制約AI發(fā)展的關(guān)鍵因素。
高能耗還得持續(xù)下去
AI要想發(fā)展必須得維持這樣的高能耗嗎？
比爾蓋茨曾經(jīng)在接受媒體采訪時(shí)表示不用擔(dān)心，因?yàn)槿斯ぶ悄茈m然消耗能源，但技術(shù)會(huì)進(jìn)步，未來的能耗會(huì)持續(xù)下降。
但關(guān)鍵問題在于，當(dāng)下大模型的訓(xùn)練是否有盡頭？
在第六屆北京智源大會(huì)上，楊植麟、王小川等4位大模型CEO就AGI的實(shí)現(xiàn)進(jìn)行了一次交流，4位CEO的共識(shí)是AGI太遙遠(yuǎn)，只有模型降價(jià)能推動(dòng)現(xiàn)實(shí)落地。
李博杰也認(rèn)為，即便是算力一直無限增加，按照目前主流大模型的技術(shù)路線，不會(huì)達(dá)到理想的AGI階段：“AGI代表了AI算法擁有類似人腦的思考模式。目前深度神經(jīng)網(wǎng)絡(luò)只是對(duì)人腦運(yùn)作時(shí)的電信號(hào)傳播的一種簡(jiǎn)化模擬。根據(jù)目前人類對(duì)人腦運(yùn)作模式的了解，人腦的運(yùn)作還包含神經(jīng)遞質(zhì)傳遞，基因調(diào)控，分子信號(hào)傳導(dǎo)，非神經(jīng)細(xì)胞調(diào)節(jié)，體液因子調(diào)節(jié)等多個(gè)不同的信號(hào)運(yùn)輸和調(diào)節(jié)機(jī)制。因此，基于深度神經(jīng)網(wǎng)絡(luò)的LLM發(fā)展，不會(huì)達(dá)到類腦智能的水平。”
從另一個(gè)角度講，語言只是人類意識(shí)的其中一個(gè)維度映射，在這個(gè)過程中存在大量的信息丟失和扭曲。人類在認(rèn)識(shí)世界的過程中，還包含了視覺、聽覺、觸覺、嗅覺、味覺等多個(gè)不同維度。同時(shí)，人類自身的運(yùn)動(dòng)學(xué)習(xí)，情緒，社會(huì)化的行為和自我意識(shí)都是AGI的重要組成部分。
“真正的AGI智能，一定是低能耗的，不過在探索的過程中，會(huì)消耗大量的能源，能源消耗是人類社會(huì)的終極問題，”李博杰表示：“從可以預(yù)測(cè)的未來看，能耗問題給人工智能發(fā)展帶來的大的問題是加速全球社會(huì)的不平等。能源條件差的國(guó)家會(huì)在這一輪技術(shù)變革中掉隊(duì)。”
如今，行業(yè)雖然正在嘗試解決AI高耗能的問題，比如通過模型的壓縮和蒸餾、更高性價(jià)比的專用AI芯片和硬件架構(gòu)等等，但未來高能耗還將維持一段不短的時(shí)間。
就如同科技的發(fā)展是螺旋上升的過程，AGI的實(shí)現(xiàn)也需要依賴各種學(xué)科的同步發(fā)展。當(dāng)下能夠期盼的是，假如大模型算法有盡頭，希望當(dāng)我們走到盡頭時(shí)，AI能夠帶來真正的生產(chǎn)力革命吧。
本文鏈接：http://www.www897cc.com/showinfo-17-99964-0.html所謂AI革命 到現(xiàn)在為止 是能源的一場(chǎng)“災(zāi)難”
聲明：本網(wǎng)頁(yè)內(nèi)容旨在傳播知識(shí)，若有侵權(quán)等問題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系，我們將在第一時(shí)間刪除處理。郵件：2376512515@qq.com
Copyright ? 2016-2023 天津谷騏科技有限公司 版權(quán)所有 sitemap.xml
違法及侵權(quán)請(qǐng)聯(lián)系：2376512515@qq.com 津ICP備18001702號(hào)
津公網(wǎng)安備 12010102000574號(hào)