快科技2月12日消息,國產(chǎn)GPU廠商景嘉微今天宣布,JM系列、景宏系列與DeepSeek R1系列的成功適配,進一步推動DeepSeek在云邊端等各類場景的應(yīng)用。
其中,景嘉微JM系列完成了DeepSeek-R1-Distill-Qwen-1.5B模型和DeepSeek-R1-Distill-Qwen-7B模型的適配。
同時,景宏系列已全面兼容并適配DeepSeek R1全系列模型,覆蓋從1.5B至70B參數(shù)規(guī)模的LLaMA及千問模型架構(gòu)。
基于vLLM推理框架的部署方案,實現(xiàn)了高效推理性能與經(jīng)濟性的雙重優(yōu)勢,為開發(fā)者提供了便捷的開發(fā)支持。
該方案支持快速啟動和使用,無需復雜配置,助力AI技術(shù)的規(guī)模化落地應(yīng)用。
景嘉微官方還表示,向中國AI開發(fā)者致敬,這次國產(chǎn)GPU與國產(chǎn)大模型結(jié)合,也算是夢幻聯(lián)動了。
值得一提的是,近期摩爾線程同樣實現(xiàn)了對DeepSeek蒸餾模型推理服務(wù)的高效部署,開發(fā)者可以基于摩爾線程全功能GPU,進行AI應(yīng)用創(chuàng)新。
此外,用戶也可以基于摩爾線程MTT S80、MTT S4000顯卡,進行DeepSeek-R1蒸餾模型的推理部署。
本文鏈接:http://www.www897cc.com/showinfo-24-130027-0.html國產(chǎn)GPU景嘉微完成DeepSeek R1系列模型適配
聲明:本網(wǎng)頁內(nèi)容旨在傳播知識,若有侵權(quán)等問題請及時與本網(wǎng)聯(lián)系,我們將在第一時間刪除處理。郵件:2376512515@qq.com