近期,DeepSeek憑借其出色的表現(xiàn)吸引了全球范圍內(nèi)的廣泛關(guān)注,眾多企業(yè)紛紛加入適配行列,力求為用戶提供更加高效的服務(wù)。對(duì)于AI大模型而言,GPU的加持無(wú)疑是提升性能的關(guān)鍵,AMD便是其中的佼佼者。無(wú)論是Instinct加速卡,還是Radeon游戲卡,AMD均已實(shí)現(xiàn)與DeepSeek的完美適配。
令人振奮的是,用戶只需擁有一塊AMD RX 7000系列的顯卡,便可在本地輕松體驗(yàn)DeepSeek的強(qiáng)大功能。這一便捷性無(wú)疑為廣大用戶打開了一扇通往AI新世界的大門。
想要在本地部署DeepSeek?其實(shí)操作異常簡(jiǎn)單。用戶只需訪問AMD官網(wǎng),無(wú)論是中文版還是英文版均可,搜索“15.1.1”,進(jìn)入搜索結(jié)果中的第一個(gè)頁(yè)面,下載AMD Adrenalin 25.1.1測(cè)試版驅(qū)動(dòng)。完成安裝并重啟計(jì)算機(jī)后,便可進(jìn)行下一步操作。
接下來,用戶需訪問LM Studio的銳龍專欄(https://lmstudio.ai/ryzenai),下載并安裝LM Studio for Ryzen AI安裝包。運(yùn)行軟件后,點(diǎn)擊右下角的設(shè)置按鈕(支持中文語(yǔ)言),找到并開啟“Use LM Studio's Hugging Face”選項(xiàng)。
返回主界面,點(diǎn)擊左側(cè)菜單欄的搜索圖標(biāo),輸入“DeepSeek R1”,便可看到一系列已訓(xùn)練好的DeepSeek模型。用戶可根據(jù)AMD官方推薦列表選擇適合自己的模型。例如,旗艦級(jí)的RX 7900 XTX可支持高達(dá)32B參數(shù)的模型,而主流的RX 7600則支持8G模型。
選擇合適的模型后,在主界面上方選中它,并調(diào)整“GPU Offload”的數(shù)值。不同選項(xiàng)的具體含義,用戶可自行搜索或咨詢DeepSeek官方。模型加載完畢后,用戶便可在本地盡情體驗(yàn)DeepSeek帶來的便捷與高效。
AMD Instinct GPU加速卡也已成功集成DeepSeek V3模型,并對(duì)SGLang性能進(jìn)行了優(yōu)化,支持完整的671B參數(shù)。開發(fā)者可借助AMD ROCm平臺(tái),快速、高效地開發(fā)AI應(yīng)用。具體操作步驟包括啟動(dòng)Docker容器、使用CLI登陸Hugging Face、啟動(dòng)SGLang Server并部署DeepSeekV3 FP8模型等。基準(zhǔn)測(cè)試結(jié)果顯示,該方案在準(zhǔn)確率和穩(wěn)定性方面均表現(xiàn)出色。
本文鏈接:http://www.www897cc.com/showinfo-45-10603-0.htmlAMD顯卡本地部署DeepSeek教程來啦!輕松體驗(yàn)AI大模型
聲明:本網(wǎng)頁(yè)內(nèi)容旨在傳播知識(shí),若有侵權(quán)等問題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系,我們將在第一時(shí)間刪除處理。郵件:2376512515@qq.com
上一篇: 阿里云DeepSeek六大模型齊上線,百萬(wàn)tokens免費(fèi)領(lǐng)!
下一篇: 美格智能澄清:與DeepSeek開發(fā)公司無(wú)關(guān)聯(lián),股價(jià)異常波動(dòng)引關(guān)注