全球最具公信力的人工智能(AI)基準測試MLPerf已進入生成式AI(Generative AI)時代。NVIDIA憑借其強大的GPU系統在最新的生成式AI訓練基準測試中取得了領先的地位,而英特爾(Intel)和Google也在測試中展示了他們的實力。
在2023年早些時候,MLPerf新增了大型語言模型(LLM)訓練基準測試,特別是針對GPT-3。而在11月,MLPerf又新增了文字轉影像生成器Stable Diffusion基準測試。這些基準測試都是針對生成式AI的,要求參與者在強大的計算系統上完成訓練。
在這個測試中,NVIDIA憑借其HGX H100系統取得了最佳的成績。HGX H100系統是一個超級電腦,搭載了1萬顆GPU。名為Eos的NVIDIA系統僅用了不到4分鐘就完成了所有的GPT-3訓練基準測試。微軟(Microsoft)Azure用相同大小的系統測試,完成時間也只落后了幾秒鐘。
英特爾也參與了這個基準測試,他們使用了搭載Gaudi 2加速芯片的系統以及僅搭載第4代Xeon處理器的系統。英特爾啟用了Gaudi 2的8位元浮點(FP8)功能,這在部分GPT-3和其他Transformer神經網絡中使用,其低精度不會影響精度。測試結果顯示,Gaudi 2系統的單芯片速度略低于NVIDIA系統約三分之一,但它是Google TPUv5e的3倍。
英特爾Habana Labs營運長Eitan Medina表示,他們預估FP8將帶來90%的增益,而實際測試中,384個加速器的叢集將訓練時間縮短了103%。他還指出,Gaudi 2的價格明顯低于H100,因此在價格和效能的綜合指標上具有優勢。隨著Gaudi 3在2024年的推出,此優勢將進一步增強。
除了這些大公司,也有一些僅搭載CPU的系統參與了基準測試。這些系統在幾個基準測試的訓練時間介于幾分鐘到幾小時之間。除了MLPerf基準測試外,英特爾還分享了一些數據,顯示包含AMX矩陣引擎的4節點Xeon系統能在不到5分鐘內微調Stable Diffusion影像生成器。
據報道,共有19家企業和機構提交了超過200份測試結果,顯示了AI訓練的快速發展。這些提交結果的平均效能較過去5個月增加了2.8倍,比MLPerf開始測試5年來增加了49倍。
這個基準測試展示了各大公司在AI領域的實力和進步。NVIDIA憑借其強大的GPU系統取得了領先的地位,而英特爾和Google也在測試中展示了他們的實力。隨著AI技術的不斷發展,我們有理由相信未來會有更多的突破和創新。
本文鏈接:http://www.www897cc.com/showinfo-27-30041-0.htmlNVIDIA在生成式AI訓練基準測試中技壓群雄
聲明:本網頁內容旨在傳播知識,若有侵權等問題請及時與本網聯系,我們將在第一時間刪除處理。郵件:2376512515@qq.com