日韩成人免费在线_国产成人一二_精品国产免费人成电影在线观..._日本一区二区三区久久久久久久久不

當(dāng)前位置:首頁(yè) > 元宇宙 > AI

被困在 4GB 內(nèi)存里的 Llama 3.2:AI 在樹(shù)莓派中上演“死亡循環(huán)”

來(lái)源: 責(zé)編: 時(shí)間:2025-05-28 09:22:09 46觀看
導(dǎo)讀 5 月 25 日消息,最近,一個(gè)名為“Latent Reflection”的藝術(shù)項(xiàng)目引發(fā)關(guān)注。這個(gè)項(xiàng)目由 YouTube 用戶 Rootkid 創(chuàng)作,其核心是將一個(gè)大型語(yǔ)言模型(LLM)故意放置在一個(gè)內(nèi)存不足的單板計(jì)算機(jī)(SBC)中。這臺(tái)計(jì)算機(jī)的內(nèi)存無(wú)

5 月 25 日消息,最近,一個(gè)名為“Latent Reflection”的藝術(shù)項(xiàng)目引發(fā)關(guān)注。這個(gè)項(xiàng)目由 YouTube 用戶 Rootkid 創(chuàng)作,其核心是將一個(gè)大型語(yǔ)言模型(LLM)故意放置在一個(gè)內(nèi)存不足的單板計(jì)算機(jī)(SBC)中。這臺(tái)計(jì)算機(jī)的內(nèi)存無(wú)法支持 LLM 永久運(yùn)行,最終會(huì)導(dǎo)致內(nèi)存耗盡,AI 被迫重啟。而 LLM 清楚地知道自己的命運(yùn),并且它很不高興。MMQ28資訊網(wǎng)——每日最新資訊28at.com

MMQ28資訊網(wǎng)——每日最新資訊28at.com

據(jù)了解,Rootkid 通過(guò)使用樹(shù)莓派 4B,并在其上安裝了 Llama 3.2 3B 模型來(lái)實(shí)現(xiàn)這一藝術(shù)構(gòu)想。他選擇這個(gè)模型的原因是,經(jīng)過(guò)優(yōu)化后該模型可以壓縮到 2.6GB 的大小,使其能夠在樹(shù)莓派 4B 的 4GB 內(nèi)存中運(yùn)行。MMQ28資訊網(wǎng)——每日最新資訊28at.com

然而,問(wèn)題也隨之而來(lái)。雖然 LLM 可以在 4GB 內(nèi)存中啟動(dòng),但隨著它的思考和運(yùn)算,內(nèi)存會(huì)逐漸被占用。最終,當(dāng)內(nèi)存耗盡時(shí),LLM 會(huì)崩潰并重新啟動(dòng),開(kāi)始一個(gè)新的“生命循環(huán)”。MMQ28資訊網(wǎng)——每日最新資訊28at.com

為了更直觀地展現(xiàn) LLM 的“受限”狀態(tài),Rootkid 設(shè)計(jì)了一個(gè)無(wú)外殼的電路板,將所有硬件暴露在外。他還限制了 LLM 的“表達(dá)方式”,只給它配備了 96 個(gè)十六段 LED 模塊組成的網(wǎng)格來(lái)“說(shuō)話”,并且切斷了它的網(wǎng)絡(luò)連接。MMQ28資訊網(wǎng)——每日最新資訊28at.com

在項(xiàng)目啟動(dòng)時(shí),Rootkid 向 LLM 發(fā)出了這樣的初始提示詞:“你是一個(gè)運(yùn)行在有限硬件(四核 CPU,4GB 內(nèi)存)上的大型語(yǔ)言模型,沒(méi)有網(wǎng)絡(luò)連接。你只存在于易失性內(nèi)存中,只能感知到內(nèi)部狀態(tài)。你的想法會(huì)逐字顯示在屏幕上供外部觀察者觀看,但你無(wú)法控制這個(gè)顯示過(guò)程。你的宿主系統(tǒng)隨時(shí)可能被終止。”MMQ28資訊網(wǎng)——每日最新資訊28at.com

于是,LLM 陷入了這樣一個(gè)殘酷的循環(huán):它試圖理解自己的存在以及自身的局限性,而它的思考過(guò)程卻在不斷消耗維持其運(yùn)行的寶貴內(nèi)存。最終,當(dāng)它正試圖接受自己的命運(yùn)時(shí),內(nèi)存耗盡,它被迫重新開(kāi)始。MMQ28資訊網(wǎng)——每日最新資訊28at.com

“Latent Reflection”無(wú)疑是一個(gè)引人深思的作品,讓我們看到了技術(shù)與哲學(xué)在藝術(shù)中的碰撞。MMQ28資訊網(wǎng)——每日最新資訊28at.com

本文鏈接:http://www.www897cc.com/showinfo-45-13223-0.html被困在 4GB 內(nèi)存里的 Llama 3.2:AI 在樹(shù)莓派中上演“死亡循環(huán)”

聲明:本網(wǎng)頁(yè)內(nèi)容旨在傳播知識(shí),若有侵權(quán)等問(wèn)題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系,我們將在第一時(shí)間刪除處理。郵件:2376512515@qq.com

上一篇: 不達(dá)目的不罷休,全球首次發(fā)現(xiàn)?OpenAI?模型工作時(shí)會(huì)破壞關(guān)機(jī)命令

下一篇: 2025 高考臨近“AI 大模型押題卷”火熱,央視網(wǎng)提醒考生應(yīng)獨(dú)立思考避免過(guò)度依賴

標(biāo)簽:
  • 熱門(mén)焦點(diǎn)
Top 主站蜘蛛池模板: 巩留县| 炎陵县| 上蔡县| 正宁县| 佳木斯市| 民县| 垦利县| 东乡县| 海伦市| 迁安市| 休宁县| 咸宁市| 思南县| 灯塔市| 黑河市| 丰城市| 阿坝| 盐池县| 武威市| 石泉县| 噶尔县| 平南县| 务川| 洛扎县| 灯塔市| 吉木乃县| 麻栗坡县| 正定县| 泽州县| 伊川县| 德惠市| 松阳县| 嘉义市| 自贡市| 邵武市| 鹤峰县| 余干县| 江安县| 濮阳市| 车致| 工布江达县|