快科技2月5日消息,DeepSeek的硬件設施雖然沒有公布詳細情況,但普遍認為大量使用了NVIDIA AI芯片,包括H100、H800、H20等不同型號,但根據新曝料,DeepSeek也驗證了華為新的AI芯片——昇騰910C。
昇騰910C是在2024年晚些時候被曝出的,據稱已向部分客戶批量供貨,包括阿里巴巴、百度、騰訊等巨頭,首批大約7萬顆,平均每顆僅2萬元左右。
消息顯示,昇騰910C采用了中芯國際的7nm工藝制造,chiplets雙芯片整合封裝,晶體管數量達530億個,整體國產化率已達55%左右。
它可以平替NVIDIA H100,同樣用于大規模的AI訓練和推理,FP8、FP16、FP32、FP64等不同數據類型下均有不俗表現。
昇騰910C
按照新說法,DeepSeek團隊的實測數據顯示,華為昇騰910C在AI推理中的表現出乎意料地好,已經達到NVIDIA H100芯片的60%左右。
更進一步地,通過手寫CUNN內核和優化,昇騰910C的性能還可以進一步提升。
據稱,DeepSeek從第一天起就支持華為昇騰芯片,并且自主維護PyTorch倉庫,只需一行代碼就能將CUDA轉換為CANN(昇騰AI異構計算框架),性能優化的潛力也相當巨大,通過定制優化可達到更高性能。
不過需要注意的是,目前已知的只是昇騰910C AI推理性能很優秀,但是AI訓練性能可能還是不夠理想。
昇騰910
本文鏈接:http://www.www897cc.com/showinfo-24-128886-0.html國產7nm工藝!曝華為昇騰910C AI推理性能達NVIDIA H100 60%:DeepSeek已驗證
聲明:本網頁內容旨在傳播知識,若有侵權等問題請及時與本網聯系,我們將在第一時間刪除處理。郵件:2376512515@qq.com