IT之家 11 月 9 日消息,國外科技媒體 Semianalysis 近日發布付費文章,表示三款中國特供版 AI 芯片之一,在 LLM 推理中,要比 H100 快 20% 以上。
IT之家此前報道,英偉達即將推出 HGX H20、L20 PCle 和 L2 PCle 接口芯片,這三款芯片均基于英偉達 H100 改良而來,官方已經生產出這些 GPU 樣品,并預估下月投入批量生產。
消息稱英偉達預計最快將于 11 月 16 號之后公布,國內廠商最快將在這幾天拿到樣品。
這篇付費文章中詳細介紹了英偉達 H20、L20 和 L2 的詳細信息,涉及 FLOPS 數據、NVLink 帶寬、功耗、內存帶寬、內存容量、芯片尺寸等。
文章中寫道:
更為重要的是,在這三款中國特供版 GPU 中,其中一款(并未明確是哪款,但應該是指 H20)在 LLM 推理中要比 H100 快 20%,而且性能接近于英偉達明年年初發布的新款 GPU。
報道中還提及的一點是,英偉達 HGX H20 采用 HGX 格式,采用臺積電的 CoWoS 封裝。而另外兩款芯片主要基于 Ada,面向游戲領域,不需要復雜的封裝。
該文章還預測了英偉達 2024 和 2025 財年業績,此前消息稱由于美國不斷地加碼,英偉達丟失了超過價值 50 億美元的訂單,而借助這些中國專供 GPU,會改善英偉達的業績表現。
本文鏈接:http://www.www897cc.com/showinfo-24-19959-0.html消息稱英偉達針對中國區改良版H20在LLM推理中比H100更快
聲明:本網頁內容旨在傳播知識,若有侵權等問題請及時與本網聯系,我們將在第一時間刪除處理。郵件:2376512515@qq.com