海外云廠商爭相引入DeepSeek模型,國產(chǎn)算力也出手了!
潞晨科技聯(lián)合華為昇騰,發(fā)布基于國產(chǎn)910B的DeepSeek-R1系列推理API,以自研國產(chǎn)推理引擎為底座,性能追平高端GPU。
同步推出云鏡像服務,滿足自定義需求高、需要私有化部署DeepSeek-R1系列模型的用戶。
而且還送上蛇年開工的第一把羊毛:
當前,DeepSeek-R1系列推理API無限量限時免費開放體驗,誠邀廣大開發(fā)者搶先體驗。
體驗地址:https://cloud.luchentech.com/maas/modelMarket
模型引擎算力全部國產(chǎn)自研
本次發(fā)布中,潞晨基于自研推理引擎,突破性深度適配優(yōu)化國產(chǎn)華為昇騰算力。
帶來的效果能夠?qū)藰I(yè)界高端GPU資源推理性能,為國產(chǎn)AI生態(tài)建設(shè)貢獻力量。
除國產(chǎn)算力外,潞晨云平臺DeepSeek-R1系列推理API還支持NV H800等常見算力,充分釋放異構(gòu)集群潛力,滿足不同場景下的推理需求。
除此之外,潞晨云平臺為DeepSeek-R1系列模型,提供從滿血671B大模型到高效蒸餾小模型多種靈活選擇,滿足開發(fā)者和企業(yè)的多元需求,用戶可根據(jù)業(yè)務場景精準選型,實現(xiàn)精度與效率的佳平衡。
為滿足商業(yè)化部署需求,潞晨DeepSeek R1系列推理API提供穩(wěn)定、靈活的API服務能力,確保模型在大規(guī)模生產(chǎn)環(huán)境中平穩(wěn)運行,助力企業(yè)快速實現(xiàn)AI應用落地。
此外,得益于簡潔易用的接口,開發(fā)者無需關(guān)注底層細節(jié),即可快速集成,聚焦業(yè)務創(chuàng)新。
潞晨云推理鏡像
對于自定義需求高、需求私有化部署DeepSeek-R1系列模型的用戶,潞晨科技也通過潞晨云提供了基于開源方案的推理鏡像,可便捷啟動昇騰910B或NV H800算力資源及對應鏡像,部署私有推理服務。
同樣支持從滿血671B到蒸餾小模型,國產(chǎn)昇騰與NVIDIA H800等多種算力,用戶可靈活選擇。
例如,登錄潞晨云后選取“ASCEND-910B” 實例,使用DeepSeek-R1-Distill-Qwen-7B模型及鏡像,推理問題:How many positive whole-number divisors does 196 have? Put answer in /box{Your answer}(196有多少個正整數(shù)因數(shù)?),從相應輸出可以看到模型已進行深度思考并找到正確答案。
通過選取相應實例和鏡像,可進一步私有化部署滿血671B DeepSeek-R1模型。
在線體驗:https://cloud.luchentech.com/
本文鏈接:http://www.www897cc.com/showinfo-22-128741-0.html華為昇騰推理DeepSeek-R1:性能比肩高端GPU、API免費不限量
聲明:本網(wǎng)頁內(nèi)容旨在傳播知識,若有侵權(quán)等問題請及時與本網(wǎng)聯(lián)系,我們將在第一時間刪除處理。郵件:2376512515@qq.com