2 月 4 日消息,阿里云計算有限公司昨日發文官宣,阿里云 PAI Model Gallery 支持云上一鍵部署 DeepSeek-V3、DeepSeek-R1。
附步驟如下:
第一步:進入 Model Gallery 頁面
點擊鏈接:https://pai.console.aliyun.com/#/quick-start/ models登陸 PAI 控制臺,在頂部左上角根據實際情況選擇地域。并在左側導航欄選擇工作空間列表,單擊指定工作空間名稱,進入對應工作空間內。最后在左側導航欄選擇快速開始 > Model Gallery。
第二步:進入 DeepSeek 模型詳情頁
在 Model Gallery 頁面的模型列表中,單擊找到并點擊需要部署的模型卡片,例如“DeepSeek-R1-Distill-Qwen-7B”模型,進入模型詳情頁面。
第三步:一鍵部署 DeepSeek 模型生成服務
單擊右上角部署:目前 DeepSeek-R1 支持采用 vLLM 加速部署;DeepSeek-V3 支持 vLLM 加速部署以及 Web 應用部署;DeepSeek-R1 蒸餾小模型支持采用 BladeLLM(阿里云 PAI 自研高性能推理框架)和 vLLM 加速部署。選擇部署方式和部署資源后,即可一鍵部署服務,生成一個 PAI-EAS 服務。
部署成功后,在服務頁面可以點擊“查看調用信息”獲取調用的 Endpoint 和 Token,想了解服務調用方式可以點擊預訓練模型鏈接,返回模型介紹頁查看調用方式說明。
需要注意的是,阿里云官方教程部署的模型為蒸餾過后的 DeepSeek-R1-Distill-Qwen-7B。基于 DeepSeek-R1 的推理能力,通過蒸餾技術將推理模式遷移到了較小的 Qwen 模型上。同時,阿里云 PAI Model Gallery 也提供 DeepSeek-R1、DeepSeek-V3 原始模型的一鍵部署。
據此前報道,Gitee AI 聯合沐曦首發全套 DeepSeek R1 千問蒸餾模型,支持全免費體驗。秘塔 AI 秘塔 AI 已官宣接入滿血版 DeepSeek R1 推理模型。另外,DeepSeek-R1 大模型登陸騰訊云,宣稱“一鍵部署、3 分鐘調用”
本文鏈接:http://www.www897cc.com/showinfo-45-10441-0.htmlDeepSeek 登陸阿里云,支持云上一鍵部署 V3、R1 模型
聲明:本網頁內容旨在傳播知識,若有侵權等問題請及時與本網聯系,我們將在第一時間刪除處理。郵件:2376512515@qq.com