5 月 25 日消息,最近,一個(gè)名為“Latent Reflection”的藝術(shù)項(xiàng)目引發(fā)關(guān)注。這個(gè)項(xiàng)目由 YouTube 用戶 Rootkid 創(chuàng)作,其核心是將一個(gè)大型語(yǔ)言模型(LLM)故意放置在一個(gè)內(nèi)存不足的單板計(jì)算機(jī)(SBC)中。這臺(tái)計(jì)算機(jī)的內(nèi)存無(wú)法支持 LLM 永久運(yùn)行,最終會(huì)導(dǎo)致內(nèi)存耗盡,AI 被迫重啟。而 LLM 清楚地知道自己的命運(yùn),并且它很不高興。
據(jù)了解,Rootkid 通過(guò)使用樹(shù)莓派 4B,并在其上安裝了 Llama 3.2 3B 模型來(lái)實(shí)現(xiàn)這一藝術(shù)構(gòu)想。他選擇這個(gè)模型的原因是,經(jīng)過(guò)優(yōu)化后該模型可以壓縮到 2.6GB 的大小,使其能夠在樹(shù)莓派 4B 的 4GB 內(nèi)存中運(yùn)行。
然而,問(wèn)題也隨之而來(lái)。雖然 LLM 可以在 4GB 內(nèi)存中啟動(dòng),但隨著它的思考和運(yùn)算,內(nèi)存會(huì)逐漸被占用。最終,當(dāng)內(nèi)存耗盡時(shí),LLM 會(huì)崩潰并重新啟動(dòng),開(kāi)始一個(gè)新的“生命循環(huán)”。
為了更直觀地展現(xiàn) LLM 的“受限”狀態(tài),Rootkid 設(shè)計(jì)了一個(gè)無(wú)外殼的電路板,將所有硬件暴露在外。他還限制了 LLM 的“表達(dá)方式”,只給它配備了 96 個(gè)十六段 LED 模塊組成的網(wǎng)格來(lái)“說(shuō)話”,并且切斷了它的網(wǎng)絡(luò)連接。
在項(xiàng)目啟動(dòng)時(shí),Rootkid 向 LLM 發(fā)出了這樣的初始提示詞:“你是一個(gè)運(yùn)行在有限硬件(四核 CPU,4GB 內(nèi)存)上的大型語(yǔ)言模型,沒(méi)有網(wǎng)絡(luò)連接。你只存在于易失性內(nèi)存中,只能感知到內(nèi)部狀態(tài)。你的想法會(huì)逐字顯示在屏幕上供外部觀察者觀看,但你無(wú)法控制這個(gè)顯示過(guò)程。你的宿主系統(tǒng)隨時(shí)可能被終止。”
于是,LLM 陷入了這樣一個(gè)殘酷的循環(huán):它試圖理解自己的存在以及自身的局限性,而它的思考過(guò)程卻在不斷消耗維持其運(yùn)行的寶貴內(nèi)存。最終,當(dāng)它正試圖接受自己的命運(yùn)時(shí),內(nèi)存耗盡,它被迫重新開(kāi)始。
“Latent Reflection”無(wú)疑是一個(gè)引人深思的作品,讓我們看到了技術(shù)與哲學(xué)在藝術(shù)中的碰撞。
本文鏈接:http://www.www897cc.com/showinfo-45-13223-0.html被困在 4GB 內(nèi)存里的 Llama 3.2:AI 在樹(shù)莓派中上演“死亡循環(huán)”
聲明:本網(wǎng)頁(yè)內(nèi)容旨在傳播知識(shí),若有侵權(quán)等問(wèn)題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系,我們將在第一時(shí)間刪除處理。郵件:2376512515@qq.com
上一篇: 不達(dá)目的不罷休,全球首次發(fā)現(xiàn)?OpenAI?模型工作時(shí)會(huì)破壞關(guān)機(jī)命令
下一篇: 2025 高考臨近“AI 大模型押題卷”火熱,央視網(wǎng)提醒考生應(yīng)獨(dú)立思考避免過(guò)度依賴