AI早已有之,但無(wú)論是深藍(lán)在國(guó)際象棋上戰(zhàn)勝卡斯帕羅夫,還是AlphaGo在圍棋上擊敗柯潔,都沒(méi)有像ChatGPT這樣引發(fā)全民熱潮。
正是這一波AIGC(生成式AI),第一次讓AI來(lái)到了每一個(gè)普通人的身邊,真正改變了人們的日常生活、工作,而不再是一個(gè)高大上的科技概念。
如今無(wú)論是互聯(lián)網(wǎng)廠商還是傳統(tǒng)科技廠商,無(wú)論是手機(jī)廠商還是PC廠商,無(wú)論是芯片硬件廠商還是軟件廠商,自家產(chǎn)品不搞點(diǎn)AI,都不好意思和人打招呼。
當(dāng)然了,對(duì)于如今人們的生活和工作來(lái)說(shuō),核心的設(shè)備一是智能手機(jī),二是PC電腦,它們也都在AI的路上銜枚疾進(jìn),很多人也經(jīng)常正路,PC AI和手機(jī)AI,究竟哪個(gè)才是王道?
首先公平地講,PC AI和手機(jī)AI無(wú)所謂孰優(yōu)孰劣,關(guān)鍵是誰(shuí)更適合用在哪里。
另一方面,對(duì)于AI而言,基礎(chǔ)的前提一是算力是否夠強(qiáng)大、模型和算法是否夠豐富,二就是應(yīng)用場(chǎng)景是否夠廣泛、靈活。
無(wú)需贅言,手機(jī)和PC相比無(wú)論CPU性能還是GPU性能,根本不在一個(gè)檔次,即便加入獨(dú)立的AI引擎,也是看不見(jiàn)尾燈的。
新發(fā)布的高通驍龍8 Gen3已經(jīng)升級(jí)為第九代AI引擎,甚至將Hexagon DSP數(shù)字信號(hào)處理器升級(jí)為專門的NPU神經(jīng)網(wǎng)絡(luò)單元,并結(jié)合整個(gè)平臺(tái)不同模塊的力量,AI性能比上代幾乎翻番。
但即便如此,它也只能處理100億參數(shù)的大語(yǔ)言模型,每秒執(zhí)行Token的數(shù)量多不過(guò)20個(gè)。
聯(lián)發(fā)科天璣9300配備了第七代APU處理器,具備生成式AI引擎,但也只是實(shí)現(xiàn)了70億參數(shù)大語(yǔ)言模型端側(cè)落地、130億參數(shù)大語(yǔ)言模型端側(cè)運(yùn)行,70億參數(shù)的生成速度也只有每秒20 Tokens。
更關(guān)鍵的是,手機(jī)端硬件平臺(tái)性能優(yōu)先,尤其是運(yùn)行大模型必須的內(nèi)存容量捉襟見(jiàn)肘,即便是高端配置的16GB也過(guò)根本不夠用。
為此,聯(lián)發(fā)科不得不動(dòng)用了各種優(yōu)化手段,包括內(nèi)存硬件壓縮、LoRA融合、Fusion技能擴(kuò)充等等,才勉強(qiáng)夠用。
在PC端,16GB內(nèi)存如今已經(jīng)是起碼的配置,32GB都隨處可見(jiàn),再加上PC處理器的強(qiáng)大算力,這些限制根本就不是事兒。
比如Intel 13代酷睿處理器,尚沒(méi)有獨(dú)立的AI引擎,但憑借XPU的加速,再加上簡(jiǎn)單的低比特量化、軟件優(yōu)化,只需16GB內(nèi)存,就可以通過(guò)BigDL-LLM框架,輕松運(yùn)行160億參數(shù)的大語(yǔ)言模型,還可以快速對(duì)接新興模型,包括但不限于:LLAMA/LLAMA2、ChatGLM/ChatGLM2、MPT、Falcon、MOSS、Baichuan、QWen、Dolly、RedPajama、StarCoder、Whisper,等等。
這里說(shuō)的BigDL-LLM,是專門針對(duì)Intel硬件的一個(gè)低比特量化設(shè)計(jì)開(kāi)源框架,支持INT3、INT4、INT5、INT8等各種低比特?cái)?shù)據(jù)精度,性能更好,內(nèi)存占用更少。
基于這個(gè)框架,使用i9-12900K處理器,只開(kāi)啟4個(gè)核心來(lái)運(yùn)行ChatGLM2 60億參數(shù)模型,生成效果就相當(dāng)迅速,打開(kāi)全部8個(gè)P核、8個(gè)E核之后生成速度可達(dá)每秒22 Tokens,已經(jīng)不弱于很多云側(cè)計(jì)算。
換言之,無(wú)論是需要將全部算力投入AI模型的運(yùn)算,還是兼顧其他任務(wù),PC端都可以輕松完成。
可以看出,無(wú)論哪種情況,Intel PC側(cè)都已經(jīng)可以很好地完成相應(yīng)的AI工作,提供令人滿意的算力和效率。
當(dāng)然,60億參數(shù)對(duì)于PC處理器來(lái)說(shuō)是小菜一碟,換成LLaMA2 130億參數(shù)大語(yǔ)言模型、StarCoder 155億參數(shù)代碼大模型,Intel酷睿處理器也都能獲得良好的運(yùn)行速度。
再換成Arc銳炫顯卡,速度就更快了,比如ChatGLM2模型中生成速度可以超過(guò)每秒50 Tokens。
正是得益于如此快速的大語(yǔ)言模型運(yùn)行速度,即便是一臺(tái)輕薄筆記本,也可以在日常工作中及時(shí)提供各種幫助。
比如包括但不限于:聊天助手、情感分析、中英文翻譯、故事創(chuàng)作、生成大綱、信息提取、美食指南、旅游規(guī)劃、代碼生成等等。
除了基于大語(yǔ)言模型的工作和生活助手,AIGC常使用的另一個(gè)場(chǎng)景就是Stable Diffusion文生圖、文勝文,這一點(diǎn)如今無(wú)論手機(jī)還是PC都可以做到。
當(dāng)然,還是受制于算力,新的手機(jī)平臺(tái)雖然號(hào)稱可以在1秒鐘之內(nèi)完成Stable Diffusion文生圖,但是無(wú)論生成中的迭代次數(shù)、引導(dǎo)系數(shù)、關(guān)鍵詞數(shù)量,還是圖片的尺寸、分辨率、質(zhì)量,都不得不做出妥協(xié),也導(dǎo)致圖片的應(yīng)用范圍有限。
在PC上,無(wú)論使用CPU還是GPU,完全可以根據(jù)自己的需要,任意設(shè)定參數(shù),花個(gè)幾分鐘,就能生成用于高級(jí)設(shè)計(jì)、創(chuàng)作的素材。
尤其是在Intel平臺(tái)上,通過(guò)與AI社區(qū)積極合作,基于OpenVINO PyTorch后端的方案,可以通過(guò)Pytorch API讓社區(qū)開(kāi)源模型很好地運(yùn)行在Intel客戶端處理器、集成顯卡、獨(dú)立顯卡、專用AI引擎之上。
Stable Diffusion中更是實(shí)現(xiàn)了Automatic1111 WebUI,以及FP16的高精度,無(wú)論文生圖、圖生圖還是局部修復(fù),都可以獲得更好的體驗(yàn)。
事實(shí)上,如今已經(jīng)有很多設(shè)計(jì)師、UP主開(kāi)始在PC和工作站上使用Stable Diffusion生成所需要的高質(zhì)量素材,得到精美的CG動(dòng)畫、模型等等,從而節(jié)省大量的精力和時(shí)間,將更多頭腦投入在創(chuàng)作階段。
接下來(lái)的酷睿Ultra,更是將引入全新升級(jí)的CPU/GPU架構(gòu),以及全新的NPU AI獨(dú)立引擎。
它通過(guò)單獨(dú)設(shè)置的神經(jīng)計(jì)算引擎、推理流水線,徹底接手端側(cè)的AI推理負(fù)載,其中MAC陣列可以高效執(zhí)行矩陣算法和卷積運(yùn)算,每周期效率多達(dá)2048。
這樣的性能更是手機(jī)端望塵莫及的,速度超快的同時(shí)功耗更是極低,有利于延長(zhǎng)筆記本續(xù)航時(shí)間。
更進(jìn)一步,酷睿Ultra AI引擎還可以聯(lián)合CPU、GPU,共同分擔(dān)AI負(fù)載中的不同工作,各自以高效率執(zhí)行,達(dá)到整體平臺(tái)效能的優(yōu)化。
總之,無(wú)論是手機(jī)端還是PC端,AI都是大勢(shì)所趨,性能會(huì)越來(lái)越好,模型和算法會(huì)越來(lái)越精妙,應(yīng)用場(chǎng)景也會(huì)越來(lái)越豐富。
對(duì)于手機(jī)端而言,AIGC可以隨時(shí)隨地應(yīng)用,也可以實(shí)現(xiàn)很好的個(gè)性化,有著極佳的靈活性。
但同時(shí)也不得不受制于手機(jī)平臺(tái)的性能、算力,也限制了應(yīng)用場(chǎng)景,尤其是大模型不可能完整地從云端搬到本地,導(dǎo)致能實(shí)現(xiàn)的應(yīng)用和生成速度存在天然局限,即便是在應(yīng)用直接、廣泛的AI助手中也是如此,需要更多地走端云合作的路子。
對(duì)于PC端而言,性能、算力可以幾乎無(wú)限制地?cái)U(kuò)展,能夠輕松、完整地運(yùn)行各種大模型,無(wú)論你需要生成的圖片多么精致、文字多么復(fù)雜,給予一定的時(shí)間都可以完成,而且這個(gè)時(shí)間正在快速縮短,因此在內(nèi)容生產(chǎn)力的AIGC創(chuàng)作方面,PC仍舊是不二之選。
雖然PC的便捷性不如手機(jī),但如今的筆記本也在快速進(jìn)化,推動(dòng)著AIGC的快速演進(jìn)和普及。
一方面,筆記本做得越來(lái)越輕薄、精致,性能卻越來(lái)越好,比如在Intel Evo嚴(yán)苛認(rèn)證的多年推動(dòng)之下,筆記本的綜合性能、擴(kuò)展能力、續(xù)航水平都達(dá)到了空前的高度,可以長(zhǎng)時(shí)間、輕負(fù)擔(dān)地隨時(shí)隨地完成工作。
另一方面,筆記本開(kāi)始有了自己的AI引擎,正快速開(kāi)啟AI PC新時(shí)代,尤其是Intel近啟動(dòng)了聲勢(shì)浩大的AI PC加速計(jì)劃,鼓勵(lì)A(yù)I創(chuàng)新應(yīng)用,很快就吸引了100多家ISV軟件合作伙伴,開(kāi)發(fā)了300多項(xiàng)AI加速功能,預(yù)計(jì)到2025年將惠及上億臺(tái)PC。
本文鏈接:http://www.www897cc.com/showinfo-24-30905-0.htmlAIGC風(fēng)潮席卷手機(jī):但在PC面前 還是個(gè)弟弟
聲明:本網(wǎng)頁(yè)內(nèi)容旨在傳播知識(shí),若有侵權(quán)等問(wèn)題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系,我們將在第一時(shí)間刪除處理。郵件:2376512515@qq.com