4 月 11 日消息,曾幾何時,英偉達用于人工智能計算的 H100 GPU 供不應求。然而據 Digitimes 報道,臺積電的臺灣地區總經理 Terence Liao 表示,過去幾個月英偉達 H100 的交貨等待時間已經大幅縮短,從最初的 3-4 個月降至目前的 2-3 個月(8-12 周)。服務器代工廠商也透露,相比 2023 年幾乎無法買到英偉達 H100 的情況,目前供應瓶頸正在逐步緩解。
盡管交貨等待時間有所縮短,Terence Liao 表示,對于人工智能硬件的需求仍然非常旺盛。即使價格昂貴,用于人工智能的服務器采購也正在取代通用服務器的采購。但他認為,交付周期太長正是導致需求看起來居高不下的主要原因。
注意到,目前 2-3 個月的交貨等待時間是英偉達 H100 GPU 史上最短的。僅僅 6 個月之前,等待時間還長達 11 個月,大多數英偉達的客戶需要等待將近一年的時間才能拿到他們訂購的人工智能 GPU。
自 2024 年初以來,H100 GPU 交貨等待時間一直在顯著縮短。今年年初,等待時間就已經從最初的數月降至 3-4 個月?,F在又進一步縮短了一個月。依這樣的速度,到今年年底甚至更早,或許將不再需要等待。
導致這種情況變化的部分原因可能是,一些公司持有過剩的 H100 GPU 庫存,并且為了降低閑置庫存的高額維護成本而進行轉售。此外,亞馬遜云科技 (AWS) 方便了用戶通過云端租賃英偉達 H100 GPU,這也幫助緩解了部分對 H100 的需求壓力。
目前唯一仍在承受供應限制的英偉達客戶是一些大型企業,例如 OpenAI,這類公司正在研發自己的大型語言模型 (LLM)。訓練大型語言模型需要成千上萬顆 GPU 才能快速高效地完成,因此這些公司仍然面臨著供應瓶頸的挑戰。
本文鏈接:http://www.www897cc.com/showinfo-45-3975-0.html英偉達 H100 AI GPU 短缺緩解,交貨時間從 3-4 個月降至 2-3 個月
聲明:本網頁內容旨在傳播知識,若有侵權等問題請及時與本網聯系,我們將在第一時間刪除處理。郵件:2376512515@qq.com