ChatGPT的背后:指數(shù)級增長的芯片與半導(dǎo)體需求
近期ChatGPT大火。除了模型本身帶來的紅利以外,還有模型需求增加導(dǎo)致的算力提升,因此有望帶來指數(shù)級增長的芯片與半導(dǎo)體需求。
原文:
ChatGPT熱潮席卷全球。ChatGPT(Chat Generative Pre-trained Transformer)是由OpenAI于2022年12月推出的對話AI模型,一經(jīng)面世便受到廣泛關(guān)注,其2023年1月月活躍用戶達(dá)到1億,是史上月活用戶增長最快的消費者應(yīng)用。
ChatGPT主要以問答類為主,但與其他問答類AI產(chǎn)品不同,其具備訓(xùn)練集中的所有知識,具有語言生成能力,可以實現(xiàn)擬人化交流,而不只是像天貓精靈、小愛同學(xué)等其他AI產(chǎn)品的一問一答模式。在問答模式的基礎(chǔ)上ChatGPT可以進(jìn)行推理、編寫代碼、文本創(chuàng)作等等,這樣的特殊優(yōu)勢和用戶體驗使得應(yīng)用場景流量大幅增加。
▲芯片需求=量↑x價↑
1)量:AIGC帶來的全新場景+原場景流量大幅提高
① 技術(shù)原理角度:ChatGPT是基于GPT3.5架構(gòu)開發(fā)的對話AI模型,歷經(jīng) GPT-1/2/3迭代,在GPT3.5模型后,開始引入代碼訓(xùn)練和指令微調(diào),加入RLHF技術(shù)(人類反饋強(qiáng)化學(xué)習(xí)),從而實現(xiàn)能力進(jìn)化。GPT作為知名的NLP模型,基于Transformer技術(shù),隨著模型不斷迭代,層數(shù)也越來越多,對算力的需求也就越來越大。
② 運行條件角度:ChatGPT完美運行的三個條件:訓(xùn)練數(shù)據(jù)+模型算法+算力。其中訓(xùn)練數(shù)據(jù)市場廣闊,技術(shù)壁壘較低,投入足夠的人力物力及財力后即可獲得;基礎(chǔ)模型及模型調(diào)優(yōu)對算力的需求較低,但獲得ChatGPT功能需要在基礎(chǔ)模型上進(jìn)行大規(guī)模預(yù)訓(xùn)練,存儲知識的能力來源于1750億參數(shù),需要大量算力。所以,算力是ChatGPT運行的關(guān)鍵所在。
2)價:對高端芯片的需求將拉動芯片均價
采購一片英偉達(dá)頂級GPU成本為8萬元,GPU服務(wù)器成本通常超過40萬元。對于ChatGPT而言,支撐其算力基礎(chǔ)設(shè)施至少需要上萬顆英偉達(dá)GPU A100,一次模型訓(xùn)練成本超過1200萬美元。
從芯片市場角度出發(fā),芯片需求的快速增加會進(jìn)一步拉高芯片均價。目前OpenAI已推出20美元/月訂閱模式,初步構(gòu)建了優(yōu)質(zhì)的訂閱商業(yè)模型,未來繼續(xù)擴(kuò)容的能力將會大幅提升。
“背后英雄”系GPU或CPU+FPGA等算力支撐
1)GPU可支撐強(qiáng)大算力需求。具體來說,從AI模型構(gòu)建的角度:第一階段是用超大算力和數(shù)據(jù)構(gòu)建預(yù)訓(xùn)練模型;第二階段是在預(yù)訓(xùn)練模型上進(jìn)行針對性訓(xùn)練。而GPU由于具備并行計算能力,可兼容訓(xùn)練和推理,所以目前被廣泛應(yīng)用,ChatGPT訓(xùn)練模型中就已導(dǎo)入至少1萬顆英偉達(dá)GPU(曾經(jīng)風(fēng)靡一時的AlphaGO也只需要8塊GPU),推理部分使用微軟的azure云服務(wù),也需要GPU進(jìn)行運作。所以,ChatGPT的火熱興起對GPU的需求可見一斑。
2)CPU+FPGA拭目以待。從深度學(xué)習(xí)的角度來看,雖然GPU是最適合深度學(xué)習(xí)應(yīng)用的芯片,但CPU和FPGA也不可忽略。FPGA芯片作為可編程芯片,可以針對特定功能進(jìn)行擴(kuò)展,在AI模型構(gòu)建第二階段具有一定的發(fā)揮空間。而FPGA想要實現(xiàn)深度學(xué)習(xí)功能,需要與CPU結(jié)合,共同應(yīng)用于深度學(xué)習(xí)模型,同樣可以實現(xiàn)龐大的算力需求。
3)云計算依靠光模塊實現(xiàn)設(shè)備互聯(lián)。AI模型向以ChatGPT為首的大規(guī)模語言模型發(fā)展,驅(qū)動數(shù)據(jù)傳輸量和算力提升。伴隨數(shù)據(jù)傳輸量的增長,光模塊作為數(shù)據(jù)中心內(nèi)設(shè)備互聯(lián)的載體,需求量隨之增長。此外,伴隨算力提升能耗增長,廠商尋求降低能耗方案,推動低能耗的光模塊發(fā)展。
結(jié)論:ChatGPT作為一種新興的超智能對話AI產(chǎn)品,無論是從技術(shù)原理角度還是運行條件角度,ChatGPT都需要強(qiáng)大算力作為支撐,從而帶動場景流量大幅增加,此外,ChatGPT對于高端芯片的需求增加也會拉動芯片均價,量價齊升導(dǎo)致芯片需求暴漲;面對指數(shù)級增長的算力和數(shù)據(jù)傳輸需求,可以進(jìn)行提供的GPU或CPU+FPGA芯片廠商、光模塊廠商即將迎來藍(lán)海市場。
看好:看好國內(nèi)GPU、CPU、FPGA、AI芯片及光模塊產(chǎn)業(yè)鏈玩家。
?、?GPU:海光信息、景嘉微
?、?CPU:龍芯中科、中國長城
?、?FPGA:安路科技、復(fù)旦微電、紫光股份
?、?AI芯片:寒武紀(jì)、瀾起科技
?、?光模塊:德科立、天孚通信、中際旭創(chuàng)
風(fēng)險提示:1)半導(dǎo)體下游需求不及預(yù)期;2)研發(fā)進(jìn)度不及預(yù)期。
*博客內(nèi)容為網(wǎng)友個人發(fā)布,僅代表博主個人觀點,如有侵權(quán)請聯(lián)系工作人員刪除。