色婷婷AⅤ一区二区三区|亚洲精品第一国产综合亚AV|久久精品官方网视频|日本28视频香蕉

          "); //-->

          博客專欄

          EEPW首頁 > 博客 > ChatGPT的背后:指數(shù)級增長的芯片與半導(dǎo)體需求

          ChatGPT的背后:指數(shù)級增長的芯片與半導(dǎo)體需求

          發(fā)布人:芯股嬸 時間:2023-02-09 來源:工程師 發(fā)布文章

             近期ChatGPT大火。除了模型本身帶來的紅利以外,還有模型需求增加導(dǎo)致的算力提升,因此有望帶來指數(shù)級增長的芯片與半導(dǎo)體需求。

            原文:

            ChatGPT熱潮席卷全球。ChatGPT(Chat Generative Pre-trained Transformer)是由OpenAI于2022年12月推出的對話AI模型,一經(jīng)面世便受到廣泛關(guān)注,其2023年1月月活躍用戶達(dá)到1億,是史上月活用戶增長最快的消費者應(yīng)用。

            ChatGPT主要以問答類為主,但與其他問答類AI產(chǎn)品不同,其具備訓(xùn)練集中的所有知識,具有語言生成能力,可以實現(xiàn)擬人化交流,而不只是像天貓精靈、小愛同學(xué)等其他AI產(chǎn)品的一問一答模式。在問答模式的基礎(chǔ)上ChatGPT可以進(jìn)行推理、編寫代碼、文本創(chuàng)作等等,這樣的特殊優(yōu)勢和用戶體驗使得應(yīng)用場景流量大幅增加。

            ▲芯片需求=量↑x價↑

            1)量:AIGC帶來的全新場景+原場景流量大幅提高

            ① 技術(shù)原理角度:ChatGPT是基于GPT3.5架構(gòu)開發(fā)的對話AI模型,歷經(jīng) GPT-1/2/3迭代,在GPT3.5模型后,開始引入代碼訓(xùn)練和指令微調(diào),加入RLHF技術(shù)(人類反饋強(qiáng)化學(xué)習(xí)),從而實現(xiàn)能力進(jìn)化。GPT作為知名的NLP模型,基于Transformer技術(shù),隨著模型不斷迭代,層數(shù)也越來越多,對算力的需求也就越來越大。

            ② 運行條件角度:ChatGPT完美運行的三個條件:訓(xùn)練數(shù)據(jù)+模型算法+算力。其中訓(xùn)練數(shù)據(jù)市場廣闊,技術(shù)壁壘較低,投入足夠的人力物力及財力后即可獲得;基礎(chǔ)模型及模型調(diào)優(yōu)對算力的需求較低,但獲得ChatGPT功能需要在基礎(chǔ)模型上進(jìn)行大規(guī)模預(yù)訓(xùn)練,存儲知識的能力來源于1750億參數(shù),需要大量算力。所以,算力是ChatGPT運行的關(guān)鍵所在。

            2)價:對高端芯片的需求將拉動芯片均價

            采購一片英偉達(dá)頂級GPU成本為8萬元,GPU服務(wù)器成本通常超過40萬元。對于ChatGPT而言,支撐其算力基礎(chǔ)設(shè)施至少需要上萬顆英偉達(dá)GPU A100,一次模型訓(xùn)練成本超過1200萬美元。

            從芯片市場角度出發(fā),芯片需求的快速增加會進(jìn)一步拉高芯片均價。目前OpenAI已推出20美元/月訂閱模式,初步構(gòu)建了優(yōu)質(zhì)的訂閱商業(yè)模型,未來繼續(xù)擴(kuò)容的能力將會大幅提升。

            “背后英雄”系GPU或CPU+FPGA等算力支撐

            1)GPU可支撐強(qiáng)大算力需求。具體來說,從AI模型構(gòu)建的角度:第一階段是用超大算力和數(shù)據(jù)構(gòu)建預(yù)訓(xùn)練模型;第二階段是在預(yù)訓(xùn)練模型上進(jìn)行針對性訓(xùn)練。而GPU由于具備并行計算能力,可兼容訓(xùn)練和推理,所以目前被廣泛應(yīng)用,ChatGPT訓(xùn)練模型中就已導(dǎo)入至少1萬顆英偉達(dá)GPU(曾經(jīng)風(fēng)靡一時的AlphaGO也只需要8塊GPU),推理部分使用微軟的azure云服務(wù),也需要GPU進(jìn)行運作。所以,ChatGPT的火熱興起對GPU的需求可見一斑。

            2)CPU+FPGA拭目以待。從深度學(xué)習(xí)的角度來看,雖然GPU是最適合深度學(xué)習(xí)應(yīng)用的芯片,但CPU和FPGA也不可忽略。FPGA芯片作為可編程芯片,可以針對特定功能進(jìn)行擴(kuò)展,在AI模型構(gòu)建第二階段具有一定的發(fā)揮空間。而FPGA想要實現(xiàn)深度學(xué)習(xí)功能,需要與CPU結(jié)合,共同應(yīng)用于深度學(xué)習(xí)模型,同樣可以實現(xiàn)龐大的算力需求。

            3)云計算依靠光模塊實現(xiàn)設(shè)備互聯(lián)。AI模型向以ChatGPT為首的大規(guī)模語言模型發(fā)展,驅(qū)動數(shù)據(jù)傳輸量和算力提升。伴隨數(shù)據(jù)傳輸量的增長,光模塊作為數(shù)據(jù)中心內(nèi)設(shè)備互聯(lián)的載體,需求量隨之增長。此外,伴隨算力提升能耗增長,廠商尋求降低能耗方案,推動低能耗的光模塊發(fā)展。

            結(jié)論:ChatGPT作為一種新興的超智能對話AI產(chǎn)品,無論是從技術(shù)原理角度還是運行條件角度,ChatGPT都需要強(qiáng)大算力作為支撐,從而帶動場景流量大幅增加,此外,ChatGPT對于高端芯片的需求增加也會拉動芯片均價,量價齊升導(dǎo)致芯片需求暴漲;面對指數(shù)級增長的算力和數(shù)據(jù)傳輸需求,可以進(jìn)行提供的GPU或CPU+FPGA芯片廠商、光模塊廠商即將迎來藍(lán)海市場。

            看好:看好國內(nèi)GPU、CPU、FPGA、AI芯片及光模塊產(chǎn)業(yè)鏈玩家。

           ?、?GPU:海光信息、景嘉微

           ?、?CPU:龍芯中科中國長城

           ?、?FPGA:安路科技、復(fù)旦微電紫光股份

           ?、?AI芯片:寒武紀(jì)、瀾起科技

           ?、?光模塊:德科立、天孚通信中際旭創(chuàng)

            風(fēng)險提示:1)半導(dǎo)體下游需求不及預(yù)期;2)研發(fā)進(jìn)度不及預(yù)期。


          *博客內(nèi)容為網(wǎng)友個人發(fā)布,僅代表博主個人觀點,如有侵權(quán)請聯(lián)系工作人員刪除。



          關(guān)鍵詞: 半導(dǎo)體

          相關(guān)推薦

          技術(shù)專區(qū)

          關(guān)閉