2 月 4 日消息,阿里云計(jì)算有限公司昨日發(fā)文官宣,阿里云 PAI Model Gallery 支持云上一鍵部署 DeepSeek-V3、DeepSeek-R1。
附步驟如下:
第一步:進(jìn)入 Model Gallery 頁(yè)面
點(diǎn)擊鏈接:https://pai.console.aliyun.com/#/quick-start/ models登陸 PAI 控制臺(tái),在頂部左上角根據(jù)實(shí)際情況選擇地域。并在左側(cè)導(dǎo)航欄選擇工作空間列表,單擊指定工作空間名稱(chēng),進(jìn)入對(duì)應(yīng)工作空間內(nèi)。最后在左側(cè)導(dǎo)航欄選擇快速開(kāi)始 > Model Gallery。
第二步:進(jìn)入 DeepSeek 模型詳情頁(yè)
在 Model Gallery 頁(yè)面的模型列表中,單擊找到并點(diǎn)擊需要部署的模型卡片,例如“DeepSeek-R1-Distill-Qwen-7B”模型,進(jìn)入模型詳情頁(yè)面。
第三步:一鍵部署 DeepSeek 模型生成服務(wù)
單擊右上角部署:目前 DeepSeek-R1 支持采用 vLLM 加速部署;DeepSeek-V3 支持 vLLM 加速部署以及 Web 應(yīng)用部署;DeepSeek-R1 蒸餾小模型支持采用 BladeLLM(阿里云 PAI 自研高性能推理框架)和 vLLM 加速部署。選擇部署方式和部署資源后,即可一鍵部署服務(wù),生成一個(gè) PAI-EAS 服務(wù)。
部署成功后,在服務(wù)頁(yè)面可以點(diǎn)擊“查看調(diào)用信息”獲取調(diào)用的 Endpoint 和 Token,想了解服務(wù)調(diào)用方式可以點(diǎn)擊預(yù)訓(xùn)練模型鏈接,返回模型介紹頁(yè)查看調(diào)用方式說(shuō)明。
需要注意的是,阿里云官方教程部署的模型為蒸餾過(guò)后的 DeepSeek-R1-Distill-Qwen-7B。基于 DeepSeek-R1 的推理能力,通過(guò)蒸餾技術(shù)將推理模式遷移到了較小的 Qwen 模型上。同時(shí),阿里云 PAI Model Gallery 也提供 DeepSeek-R1、DeepSeek-V3 原始模型的一鍵部署。
據(jù)此前報(bào)道,Gitee AI 聯(lián)合沐曦首發(fā)全套 DeepSeek R1 千問(wèn)蒸餾模型,支持全免費(fèi)體驗(yàn)。秘塔 AI 秘塔 AI 已官宣接入滿血版 DeepSeek R1 推理模型。另外,DeepSeek-R1 大模型登陸騰訊云,宣稱(chēng)“一鍵部署、3 分鐘調(diào)用”
本文鏈接:http://www.www897cc.com/showinfo-45-10441-0.htmlDeepSeek 登陸阿里云,支持云上一鍵部署 V3、R1 模型
聲明:本網(wǎng)頁(yè)內(nèi)容旨在傳播知識(shí),若有侵權(quán)等問(wèn)題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系,我們將在第一時(shí)間刪除處理。郵件:2376512515@qq.com
上一篇: 領(lǐng)英“隱私風(fēng)波”告一段落:集體訴訟被撤,用戶數(shù)據(jù)未被訓(xùn)練 AI