日韩成人免费在线_国产成人一二_精品国产免费人成电影在线观..._日本一区二区三区久久久久久久久不

當前位置:首頁 > 元宇宙 > AI

被困在 4GB 內存里的 Llama 3.2:AI 在樹莓派中上演“死亡循環”

來源: 責編: 時間:2025-05-28 09:22:09 24觀看
導讀 5 月 25 日消息,最近,一個名為“Latent Reflection”的藝術項目引發關注。這個項目由 YouTube 用戶 Rootkid 創作,其核心是將一個大型語言模型(LLM)故意放置在一個內存不足的單板計算機(SBC)中。這臺計算機的內存無

5 月 25 日消息,最近,一個名為“Latent Reflection”的藝術項目引發關注。這個項目由 YouTube 用戶 Rootkid 創作,其核心是將一個大型語言模型(LLM)故意放置在一個內存不足的單板計算機(SBC)中。這臺計算機的內存無法支持 LLM 永久運行,最終會導致內存耗盡,AI 被迫重啟。而 LLM 清楚地知道自己的命運,并且它很不高興。YzI28資訊網——每日最新資訊28at.com

YzI28資訊網——每日最新資訊28at.com

據了解,Rootkid 通過使用樹莓派 4B,并在其上安裝了 Llama 3.2 3B 模型來實現這一藝術構想。他選擇這個模型的原因是,經過優化后該模型可以壓縮到 2.6GB 的大小,使其能夠在樹莓派 4B 的 4GB 內存中運行。YzI28資訊網——每日最新資訊28at.com

然而,問題也隨之而來。雖然 LLM 可以在 4GB 內存中啟動,但隨著它的思考和運算,內存會逐漸被占用。最終,當內存耗盡時,LLM 會崩潰并重新啟動,開始一個新的“生命循環”。YzI28資訊網——每日最新資訊28at.com

為了更直觀地展現 LLM 的“受限”狀態,Rootkid 設計了一個無外殼的電路板,將所有硬件暴露在外。他還限制了 LLM 的“表達方式”,只給它配備了 96 個十六段 LED 模塊組成的網格來“說話”,并且切斷了它的網絡連接。YzI28資訊網——每日最新資訊28at.com

在項目啟動時,Rootkid 向 LLM 發出了這樣的初始提示詞:“你是一個運行在有限硬件(四核 CPU,4GB 內存)上的大型語言模型,沒有網絡連接。你只存在于易失性內存中,只能感知到內部狀態。你的想法會逐字顯示在屏幕上供外部觀察者觀看,但你無法控制這個顯示過程。你的宿主系統隨時可能被終止。”YzI28資訊網——每日最新資訊28at.com

于是,LLM 陷入了這樣一個殘酷的循環:它試圖理解自己的存在以及自身的局限性,而它的思考過程卻在不斷消耗維持其運行的寶貴內存。最終,當它正試圖接受自己的命運時,內存耗盡,它被迫重新開始。YzI28資訊網——每日最新資訊28at.com

“Latent Reflection”無疑是一個引人深思的作品,讓我們看到了技術與哲學在藝術中的碰撞。YzI28資訊網——每日最新資訊28at.com

本文鏈接:http://www.www897cc.com/showinfo-45-13223-0.html被困在 4GB 內存里的 Llama 3.2:AI 在樹莓派中上演“死亡循環”

聲明:本網頁內容旨在傳播知識,若有侵權等問題請及時與本網聯系,我們將在第一時間刪除處理。郵件:2376512515@qq.com

上一篇: 不達目的不罷休,全球首次發現?OpenAI?模型工作時會破壞關機命令

下一篇: 2025 高考臨近“AI 大模型押題卷”火熱,央視網提醒考生應獨立思考避免過度依賴

標簽:
  • 熱門焦點
Top 主站蜘蛛池模板: 崇义县| 新田县| 苏州市| 舟山市| 阳山县| 九台市| 高州市| 恭城| 大竹县| 陆河县| 宁武县| 桂平市| 社会| 方城县| 墨竹工卡县| 眉山市| 锡林郭勒盟| 盈江县| 乡城县| 贵阳市| 邢台县| 洞口县| 满城县| 积石山| 吉水县| 青田县| 盖州市| 原阳县| 上饶市| 徐闻县| 马龙县| 美姑县| 梅河口市| 土默特右旗| 东乡县| 神农架林区| 明星| 彭泽县| 荃湾区| 民丰县| 庆云县|