8 月 27 日消息,科技媒體 WccfTech 昨日(8 月 26 日)發布博文,報道稱 CoreWeave 最新測試顯示,以 DeepSeek R1 推理模型實測,4 塊英偉達 Blackwell 架構 GB300 芯片就能完成原需 16 塊 H100 的任務,單卡吞吐量提升 6 倍。

援引博文介紹,CoreWeave 使用 Deepseek R1 推理模型,對比評估英偉達 Blackwell 架構 GB300 NVL72 和上一代 H100 GPU 的差別。歸功于英偉達升級架構,增強內存和帶寬,測試結果顯示,GB300 在僅使用 4 塊 GPU 的情況下,即可完成原本需要 16 塊 H100 才能運行的任務。
GB300 NVL72 平臺支持高達 37TB 的內存容量(最高可達 40TB),并配備每秒 130TB 的內存帶寬。該平臺為減少 GPU 間數據分割次數,采用 4 路并行設計,并通過 NVLink 和 NVSwitch 高速互連提升通信效率。

CoreWeave 指出,這不僅是 FLOPs 算力的提升,更是系統架構在實際業務場景下的效率躍遷。對于需要運行復雜模型的企業客戶,GB300 NVL72 提供了更高的擴展性和更低的延遲,幫助他們更快、更經濟地部署和運行 AI 服務。

本文鏈接:http://www.www897cc.com/showinfo-24-178704-0.htmlDeepseek R1 推理實測:4 塊英偉達 GB300 能干 16 塊 H100 的活,單卡吞吐量提升 6 倍
聲明:本網頁內容旨在傳播知識,若有侵權等問題請及時與本網聯系,我們將在第一時間刪除處理。郵件:2376512515@qq.com