4 月 7 日消息,AMD 近日公布了一系列基準測試,聲稱其銳龍移動版 7040 Phoenix 系列和 8040 系列處理器在運行大型語言模型 (LLMs) 方面,性能最高可領先于英特爾最新的 Core Ultra Meteor Lake CPU 達 79%。
注意到,本次測試對比的是 AMD 銳龍 7 8740U 和英特爾 Core Ultra 7 155H 處理器,兩款芯片均配備了硬件神經網絡處理單元 (NPU)。AMD 展示了多張幻燈片,對比了這兩款處理器的 Mistral 7b、Llama v2 和 Mistral Instruct 7B 等大型語言模型的性能表現。在 Llama v2 對話測試中,使用 Q4 位寬時,AMD 處理器的性能比 Core Ultra 7 高出 14%。而在 Mistral Instruct 測試中,使用相同位寬的情況下,AMD 處理器則快了 17%。
在同樣的大型語言模型測試中,AMD 處理器在響應速度上也展現出優勢。例如,在 Llama v2 對話測試的“示例提示詞生成首個 Token”速度測試中,AMD 處理器比 Core Ultra 7 快了 79%,而在 Mistral Instruct 測試中則快了 41%。
AMD 還展示了另一組測試結果,涵蓋了各種位寬、塊大小和質量水平的 Llama v2 7B 對話測試。整體來看,銳龍 7 7840U 的平均性能比英特爾競品高出 55%,在 Q8 位寬設置下性能提升甚至達到 70%。不過 AMD 也表示,在實際應用中運行大型語言模型時,使用 4 位的 K M 量化可以取得更好的平衡,而對于需要極致精度的編碼等任務,則可以使用 5 位的 K M 量化設置。
從目前來看,AMD 在人工智能性能方面暫時領先于英特爾。盡管銳龍 7040 系列架構在理論性能 (TOPS) 上與 Meteor Lake 相當,但 Tom'sHardware 在去年年底就發現,在 AI 負載方面,AMD 通常能擊敗 Meteor Lake。這似乎更像是軟件優化問題,而非硬件或驅動程序的問題。
不過這種性能差距應該不會持續太久。畢竟,神經網絡處理單元的發展才剛剛開始。如果更多的應用程序不采用 OpenVINO 框架,預計英特爾將改變策略,尋求一種更易被開發者采納的優化方案。此外,英特爾也計劃在今年晚些時候發布下一代 Lunar Lake 移動 CPU 架構,據稱其 AI 性能將是 Meteor Lake 的 3 倍(同時 CPU 核心部分的 IPC 性能也將大幅提升)。
總而言之,AMD 目前在神經網絡處理單元性能方面占據優勢,尤其是擁有更強 NPU 性能的銳龍 8040 系列處理器。但是,隨著年底英特爾 Lunar Lake 架構的發布及其人工智能優化計劃的實施,戰局可能會發生逆轉。
本文鏈接:http://www.www897cc.com/showinfo-24-81569-0.htmlAMD:銳龍 8040 系列處理器 AI 性能完勝英特爾酷睿 Ultra 處理器
聲明:本網頁內容旨在傳播知識,若有侵權等問題請及時與本網聯系,我們將在第一時間刪除處理。郵件:2376512515@qq.com