日韩成人免费在线_国产成人一二_精品国产免费人成电影在线观..._日本一区二区三区久久久久久久久不

當前位置:首頁 > 科技  > 知識百科

微軟宣布為 Win11 用戶優化 DeepSeek-R1 模型,讓 Copilot+ PC 實現本地化 AI 推理

來源: 責編: 時間:2025-01-30 18:45:40 138觀看
導讀 1 月 30 日消息,人工智能正加速向著邊緣計算領域發展,Copilot+ PC 在其中扮演著重要角色。隨著 DeepSeek R1 出現,微軟也意識到了這一模型可能會帶來了一系列變革。微軟今日發文,宣布推出針對NPU 優化的 DeepSeek

1 月 30 日消息,人工智能正加速向著邊緣計算領域發展,Copilot+ PC 在其中扮演著重要角色。隨著 DeepSeek R1 出現,微軟也意識到了這一模型可能會帶來了一系列變革。7qx28資訊網——每日最新資訊28at.com

微軟今日發文,宣布推出針對NPU 優化的 DeepSeek-R1(注:已在 Azure AI Foundry 和 GitHub 上提供),首批將面向搭載高通驍龍 X 芯片的Copilot+ PC 推出,隨后是英特爾酷睿 Ultra 200V 等平臺。7qx28資訊網——每日最新資訊28at.com

7qx28資訊網——每日最新資訊28at.com

微軟表示,首個版本 DeepSeek-R1-Distill-Qwen-1.5B 將在 AI Toolkit 中提供,7B 和 14B版本也將很快推出,從而幫助開發者充分利用 Copilot+ PC 中強大的 NPU 配置。7qx28資訊網——每日最新資訊28at.com

7qx28資訊網——每日最新資訊28at.com

微軟表示,Copilot+ PC 上的 NPU 開啟了一種新的范式。在這種范式下,生成式 AI 不僅可以在被調用時執行,還可以支持半連續運行的服務。這使開發者能夠利用 AI 推理引擎來構建主動和持續的體驗。微軟表示:7qx28資訊網——每日最新資訊28at.com

通過我們在 Phi Silica 上的工作,我們實現了高效的推理 —— 在首次生成 token 的時間和吞吐率方面表現出色,同時對電池續航和 PC 資源消耗的影響降至最低。針對 NPU 優化的 DeepSeek 模型借鑒了該項目的多項關鍵經驗和技術,包括如何分離模型的各個部分以實現性能與效率的最佳平衡、低比特率量化以及將 Transformer 映射到 NPU。此外,我們還利用 Windows Copilot Runtime(WCR)通過 ONNX QDQ 格式在多樣化的 Windows 生態系統中實現擴展。7qx28資訊網——每日最新資訊28at.com

微軟表示,要想在 Copilot+ PC 上體驗 DeepSeek 只需下載 AI Toolkit VS Code 擴展即可;以 ONNX QDQ 格式優化的 DeepSeek 模型將很快出現在 AI Toolkit 的模型目錄中(直接從 Azure AI Foundry 中拉取)。7qx28資訊網——每日最新資訊28at.com

7qx28資訊網——每日最新資訊28at.com

用戶可以通過點擊“下載”按鈕將其下載到本地。下載完成后,只需打開 Playground 加載“deepseek_r1_1_5”模型,并給出提示詞即可開始實驗。7qx28資訊網——每日最新資訊28at.com

除了為 Copilot+ PC 優化的 ONNX 模型外,您還可以通過點擊“DeepSeek R1”下的“Try in Playground”按鈕,在 Azure Foundry 中嘗試云托管的源模型。7qx28資訊網——每日最新資訊28at.com

如下圖所示,微軟還展示了原始模型和量化模型的示例,以展現兩者之間微小但確實存在的差異:7qx28資訊網——每日最新資訊28at.com

7qx28資訊網——每日最新資訊28at.com

▲相同提示下原始模型(左)與 NPU 優化模型(右)的響應示例,包括模型的推理能力

本文鏈接:http://www.www897cc.com/showinfo-119-128069-0.html微軟宣布為 Win11 用戶優化 DeepSeek-R1 模型,讓 Copilot+ PC 實現本地化 AI 推理

聲明:本網頁內容旨在傳播知識,若有侵權等問題請及時與本網聯系,我們將在第一時間刪除處理。郵件:2376512515@qq.com

上一篇: 網易云音樂宣布為 App 引入“底部導航欄自定義”功能

下一篇: 微軟發布 Win11 226x1.4830 可選更新:類蘋果“連續互通”功能 Resume 上線

標簽:
  • 熱門焦點
Top 主站蜘蛛池模板: 崇州市| 南昌市| 临颍县| 昌都县| 南丹县| 通州市| 普陀区| 咸阳市| 湖北省| 哈巴河县| 元氏县| 贵南县| 荔浦县| 庆元县| 阿勒泰市| 祁门县| 沾益县| 外汇| 建昌县| 中方县| 曲靖市| 屯昌县| 丹巴县| 泸西县| 惠来县| 揭东县| 安吉县| 磐石市| 穆棱市| 永济市| 呼图壁县| 娄底市| 文成县| 南宫市| 台中县| 建始县| 股票| 阿城市| 武隆县| 中阳县| 沂南县|