英偉達(dá)H100交貨時間從4個月降至8-12周
據(jù)Digitimes報道,戴爾臺灣地區(qū)總經(jīng)理Terence Liao報告稱,英偉達(dá)(Nvidia)H100 AI GPU的交付周期在過去幾個月中已從3-4個月縮短到僅2-3個月(8-12周)。服務(wù)器 ODM 顯示,與 2023 年相比,供應(yīng)終于有所緩解,當(dāng)時幾乎不可能獲得 Nvidia 的 H100 GPU。
本文引用地址:http://cafeforensic.com/article/202404/457514.htm盡管交貨時間縮短,但Terence Liao表示,對具有人工智能功能的硬件的需求仍然非常高。具體來說,人工智能服務(wù)器的購買正在取代企業(yè)中的通用服務(wù)器購買,盡管人工智能服務(wù)器的成本非常高。但是,他認(rèn)為采購時間是造成這種情況的唯一原因。
2-3 個月的交付窗口是 Nvidia H100 GPU 的最短交貨時間。就在6個月前,交貨時間達(dá)到了 11 個月,這意味著英偉達(dá)的大多數(shù)客戶不得不等待一年才能完成他們的 AI GPU 訂單。
進(jìn)入2024年以來,交貨時間顯著縮短。首先,我們看到今年早些時候大幅減少到 3-4 個月?,F(xiàn)在,交貨時間又縮短了一個月。按照這個速度,我們可以看到交貨時間在年底或更早之前完全消失。
這種行為可能是一些公司擁有過剩的 H100 GPU并轉(zhuǎn)售部分供應(yīng)以抵消未使用庫存的高昂維護(hù)成本的連鎖反應(yīng)的結(jié)果。此外,AWS 使通過云租用 Nvidia H100 GPU變得更加容易,這也有助于緩解部分 H100 需求。
唯一在供應(yīng)限制中苦苦掙扎的英偉達(dá)客戶是像OpenAI這樣的大公司,它們正在開發(fā)自己的LLM。這些公司需要數(shù)以萬計的 GPU 來快速有效地訓(xùn)練他們的 LLM。
好消息是,這應(yīng)該不會成為長期的問題。如果交貨時間繼續(xù)呈指數(shù)級縮短,就像過去4個月一樣,英偉達(dá)最大的客戶應(yīng)該能夠獲得他們需要的所有GPU,至少在理論上是這樣。
CoWoS封裝產(chǎn)能是關(guān)鍵
交貨時間縮短,表明臺積電擴(kuò)增的CoWoS封裝產(chǎn)能開始釋放。據(jù)悉,臺積電要在2024年底前將相關(guān)產(chǎn)能從2023年中的水平增加一倍,從目前的情況來看,臺積電及其合作伙伴的CoWoS產(chǎn)能擴(kuò)增進(jìn)展快于預(yù)期,使得以H100為代表的高性能GPU交貨時間大幅縮短。
產(chǎn)業(yè)人士分析,從2023年7月到年底,臺積電積極調(diào)整CoWoS封裝產(chǎn)能,已逐步擴(kuò)充并穩(wěn)定量產(chǎn),去年12月,臺積電CoWoS月產(chǎn)能增加到1.4萬~1.5萬片。
雖然臺積電在積極擴(kuò)產(chǎn),但只有這一家的產(chǎn)能還是無法滿足市場需求,因此,英偉達(dá)已經(jīng)在2023年向臺積電以外的專業(yè)封測代工廠(OSAT)尋求幫助,主要包括日月光和安靠(Amkor),其中,安靠在2023年第四季度已開始提供相關(guān)產(chǎn)能,日月光投控旗下矽品也于2024年第一季度開始供應(yīng)CoWoS封裝產(chǎn)能。
2024年,AI芯片用先進(jìn)封裝產(chǎn)能依然會供不應(yīng)求,包括臺積電、日月光、安靠、力成、京元電在內(nèi)的專業(yè)封測代工廠,將會在今年擴(kuò)大資本支出,以布局先進(jìn)封裝產(chǎn)能。
根據(jù)臺積電的擴(kuò)產(chǎn)節(jié)奏,預(yù)計到今年第四季度,該晶圓代工龍頭的CoWoS月產(chǎn)能將大幅擴(kuò)充到3.3萬~3.5萬片。
今年,日月光的資本支出規(guī)模將同比增長40%~50%,其中,65%的投資用于封裝,特別是先進(jìn)封裝項(xiàng)目。日月光投控營運(yùn)長吳田玉表示,今年的先進(jìn)封裝與測試營收占比會更高,AI相關(guān)先進(jìn)封裝收入將翻倍,今年相關(guān)營收至少增加2.5億美元。力成也在擴(kuò)大先進(jìn)封裝產(chǎn)能,該公司董事長蔡篤恭表示,下半年將積極擴(kuò)大資本支出,規(guī)模有望達(dá)到100億元新臺幣。力成主要布局扇出型基板封裝(fan out on substrate)技術(shù),整合ASIC和HBM先進(jìn)封裝,在AI用HBM內(nèi)存方面,力成有望在今年第四季度量產(chǎn)相關(guān)產(chǎn)品。為滿足CoWoS封裝后的晶圓測試需求,今年,京元電相關(guān)晶圓測試產(chǎn)能將擴(kuò)充兩倍。
H100轉(zhuǎn)售潮
隨著交貨周期的縮短,一些之前囤積了H100的公司開始考慮轉(zhuǎn)售其過剩的庫存。這一現(xiàn)象在AWS、谷歌云和微軟Azure等大型云服務(wù)提供商的影響下尤為明顯。這些公司提供了便捷的芯片租賃服務(wù),使得用戶無需大量購買和囤積硬件,從而降低了成本并提高了靈活性。
盡管H100的可用性有所改善,但AI芯片的需求仍然旺盛,尤其是在訓(xùn)練大型語言模型(LLM)的領(lǐng)域。
英偉達(dá)作為全球領(lǐng)先的GPU制造商,在AI芯片市場占有重要地位。然而,隨著AMD、Intel等公司在AI芯片領(lǐng)域的不斷投入和發(fā)展,市場競爭愈發(fā)激烈。
隨著AI技術(shù)的廣泛應(yīng)用,AI芯片市場正迎來快速增長期。盡管AI芯片供應(yīng)問題有所緩解,但市場需求仍然旺盛,市場競爭依然激烈。英偉達(dá)等公司在擴(kuò)大生產(chǎn)規(guī)模、提高供應(yīng)鏈效率的同時,也需要關(guān)注競爭對手的動態(tài)和市場變化,以應(yīng)對未來可能出現(xiàn)的挑戰(zhàn)和機(jī)遇。
評論