一、前言:哪個發燒友能抵擋本地部署大模型的誘惑
今年年初,橫空出世的DeepSeek AI大模型火爆出圈,一夜過后人人都在談論DeepSeek大模型,而已經進入第二年的AI PC方面,自然也不會落后。
相對于直接付費使用成熟的AI應用,DeepSeek完全開源的特性也讓更多發燒友樂于在本地部署,充分利用越發強大的硬件AI性能。
但是對于主流的筆記本平臺,在本地運行DeepSeek大模型,效果如何呢?
我們找來了當下比較新的輕薄本,Intel平臺和AMD平臺各一臺,測試一下不同平臺在本地運行DeepSeek大模型的表現。
當然我們在本地部署的DeepSeek只能是蒸餾版,因為滿血版DeepSeek-R1模型高達671b的參數根本不是小飛機平臺所能容納的,好在還有六個蒸餾后不同規模的小模型,方便玩家根據自己的硬件配置選擇合適的模型規模。
DeepSeek-R1大模型和由它蒸餾而來的六個小模型都是開源的,每個人都可以下載部署到自己的設備上。
選擇合適的模型規模,關鍵就在于運行設備的顯存或內存容量,當然對于普通玩家,特別是筆記本用戶來說,主要還是看內存大小。
這也就是AI PC概念出現以來,電腦的內存容量已經普遍從32GB起步的原因,就連被戲稱“用金子做內存”的蘋果,新的Mac Mini M4也把內存升級到16GB起步。
本文鏈接:http://www.www897cc.com/showinfo-24-140103-0.htmlIntel酷睿Ultra 285H AI體驗:DeepSeek 14B模型每秒近10 Tokens OpenVINO成制勝關鍵
聲明:本網頁內容旨在傳播知識,若有侵權等問題請及時與本網聯系,我們將在第一時間刪除處理。郵件:2376512515@qq.com