AI PC一觸即發(fā),存儲(chǔ)器、NPU等大放異彩!
AI浪潮正持續(xù)改變各行各業(yè),此前歷經(jīng)下行周期的PC市場(chǎng)也開(kāi)始迎來(lái)新的機(jī)會(huì)。今年以來(lái),無(wú)論是美國(guó)消費(fèi)電子展(CES)還是巴塞羅那世界移動(dòng)通信大會(huì)(MWC),AI PC都成為了當(dāng)之無(wú)愧的焦點(diǎn),包括英特爾、AMD、英偉達(dá)等芯片大廠,以及聯(lián)想、戴爾、宏碁、華碩、榮耀等下游廠商紛紛推出相關(guān)產(chǎn)品,布局AI PC。業(yè)界直言,2024年或是AI PC元年,這一風(fēng)口下,半導(dǎo)體領(lǐng)域NPU以及存儲(chǔ)器等有望持續(xù)受益。
本文引用地址:http://cafeforensic.com/article/202404/457638.htm一 AI PC一觸即發(fā),半導(dǎo)體大廠瞄準(zhǔn)NPU
ChatGPT的橫空出世,讓人見(jiàn)識(shí)到了AI大模型的威力,隨后,AI內(nèi)容生成逐漸從云端向PC、手機(jī)等終端靠近,業(yè)界也開(kāi)始意識(shí)到PC將是支持AI大模型的重要平臺(tái)。畢竟,與手機(jī)相比,PC擁有更高存儲(chǔ)容量與物理空間,更適合復(fù)雜度高、參數(shù)規(guī)模大的AI大模型。這一背景下,AI PC一觸即發(fā)。
當(dāng)前行業(yè)對(duì)AI PC尚未有明確定義,業(yè)界普遍認(rèn)為,AI PC指的是具備AI加速計(jì)算能力或能在本地運(yùn)行AI大模型的PC產(chǎn)品,其具備深度學(xué)習(xí)以及自然語(yǔ)言處理等能力,可以完成多種復(fù)雜AI任務(wù)。
傳統(tǒng)PC采用CPU+GPU架構(gòu),聚焦本地計(jì)算與存儲(chǔ),雖然也能運(yùn)行大語(yǔ)言模型,但AI時(shí)代數(shù)據(jù)量龐大,傳統(tǒng)PC算力不足發(fā)展受限。與之相比,AI PC采用的是CPU+GPU+NPU(神經(jīng)網(wǎng)絡(luò)處理單元)異構(gòu)方案,NPU作為AI PC算力中樞,主要用于加速人工智能和機(jī)器學(xué)習(xí)任務(wù),包括圖像識(shí)別、語(yǔ)音識(shí)別、自然語(yǔ)言處理等,與傳統(tǒng)的通用處理器相比,NPU在神經(jīng)網(wǎng)絡(luò)計(jì)算方面具備更高的計(jì)算效率和能耗效率,可以令A(yù)I大模型在本地化運(yùn)行變得更加高效,從而滿足PC用戶對(duì)AI能力的需求。
2023年以來(lái),圍繞CPU+GPU+NPU異構(gòu)方案,AMD、英特爾與高通紛紛展開(kāi)布局。
AMD于2023年5月推出銳龍7040系列移動(dòng)處理器,集成了專(zhuān)門(mén)負(fù)責(zé)處理AI任務(wù)的NPU,首次將x86平臺(tái)帶向AI時(shí)代。同年12月,AMD又推出了銳龍8040系列移動(dòng)處理器,提供高達(dá)16TOPS的NPU算力和高達(dá)39TOPS的整體算力,對(duì)比上代7040,可帶來(lái)60%的AI性能提升。
2023年12月,英特爾正式推出酷睿Ultra處理器,基于Intel 4制程工藝以及先進(jìn)的Foveros 3D封裝技術(shù),并采用了英特爾首個(gè)用于客戶端的片上AI加速器“NPU”,帶來(lái)2.5倍于上一代產(chǎn)品的能效表現(xiàn)。酷睿Ultra處理器率先在消費(fèi)級(jí)AI PC上應(yīng)用,隨后于2024年3月,英特爾又宣布基于酷睿Ultra處理器的AI特性延展到商用領(lǐng)域。在今年4月舉辦的Intel Vision 2024創(chuàng)新大會(huì)上,英特爾披露了下一代酷睿Ultra客戶端處理器家族(代號(hào)Lunar Lake),產(chǎn)品AI算力將超過(guò)100TOPS,NPU單元提供超過(guò)45TOPS的算力,該款處理器將于2024年推出,屆時(shí)AI PC性能將可進(jìn)一步提升。
高通2023年也推出了為AI PC設(shè)計(jì)的處理器產(chǎn)品驍龍 X Elite SoC,采用4納米工藝,集成了高通定制的 Oryon CPU,AI引擎算力達(dá)到75TOPS,NPU提供45TOPS算力,首批搭載驍龍X Elite 芯片的PC制造商包括榮耀、聯(lián)想、小米等。
除此之外,GPU大廠英偉達(dá)也在發(fā)力NPU。今年2月英偉達(dá)發(fā)布RTX 500和RTX 1000系列筆記本顯卡,適用于筆記本電腦和移動(dòng)工作站,上述系列產(chǎn)品全部配備N(xiāo)PU,主要負(fù)責(zé)處理輕型AI任務(wù)。
二 存儲(chǔ)器需求上漲,DRAM、SSD等受益
“來(lái)勢(shì)洶洶”的AI PC浪潮,推動(dòng)了存儲(chǔ)器市場(chǎng)需求上漲,也對(duì)存儲(chǔ)器性能、容量、功耗等方面提出了更高的要求。
為支持AI大模型運(yùn)行,AI PC需要有足夠大和足夠快的內(nèi)存。與DDR4相比,DDR5內(nèi)存具有更高的性能、更低的功耗和更大的容量,因而有望在AI PC時(shí)代下得到快速發(fā)展。
從微軟針對(duì)AI PC的規(guī)格要求來(lái)看,DRAM基本需求為16GB起跳,不過(guò)16GB可能難以滿足AI大模型海量數(shù)據(jù)需求。近期,英特爾中國(guó)區(qū)技術(shù)部總經(jīng)理高宇對(duì)外表示,未來(lái)AI PC的入門(mén)級(jí)標(biāo)配將是32GB內(nèi)存,16GB內(nèi)存將面臨淘汰,預(yù)計(jì)在明年,64GB內(nèi)存的PC將開(kāi)始進(jìn)入市場(chǎng)。
TrendForce集邦咨詢認(rèn)為,AI PC將有機(jī)會(huì)帶動(dòng)PC DRAM的位元需求年成長(zhǎng),后續(xù)伴隨著消費(fèi)者的換機(jī)潮,進(jìn)而加大產(chǎn)業(yè)對(duì)PC DRAM的位元需求。TrendForce集邦咨詢預(yù)期,今年LPDDR占PC DRAM需求約30~35%,未來(lái)將受到AI PC的CPU廠商的規(guī)格支援,從而拉高LPDDR導(dǎo)入比重再提升。
值得一提的是,原廠正開(kāi)發(fā)LPCAMM內(nèi)存,具備高帶寬、低功耗、大容量、模塊化設(shè)計(jì)特點(diǎn),有望在未來(lái)更好助力AI PC發(fā)展。
圖片來(lái)源:美光科技
美光科技今年1月推出了業(yè)界首款標(biāo)準(zhǔn)低功耗壓縮附加內(nèi)存模塊(LPCAMM2),采用LPDDR5X DRAM,與SODIMM產(chǎn)品相比,能在網(wǎng)頁(yè)瀏覽和視頻會(huì)議等PCMark?10重要工作負(fù)載中將功耗降低高達(dá)61%,性能提升高達(dá)71%,空間節(jié)省達(dá)64%。LPCAMM2提供從16GB至64GB的容量選項(xiàng),該模塊已出樣,計(jì)劃于今年上半年量產(chǎn)。美光表示,LPCAMM2將為具備AI功能的筆記本電腦提供更強(qiáng)性能,且內(nèi)存容量可隨著技術(shù)和客戶需求的發(fā)展而不斷升級(jí)。
閃存領(lǐng)域,SSD是PC必不可少的存儲(chǔ)介質(zhì),AI PC需要更高性能、更大容量以及更低功耗的SSD。業(yè)界認(rèn)為,PCIe 5.0具備高速低延遲的性能,將更適合AI大模型時(shí)代數(shù)據(jù)中心的需求,因此PCIe 5.0 SSD將大有可為。
PCB01 SSD產(chǎn)品(從右第二)圖片來(lái)源:SK中國(guó)
圍繞AI PC,已經(jīng)有存儲(chǔ)廠商推出相關(guān)SSD產(chǎn)品。今年3月,SK海力士正式發(fā)布AI PC端高性能消費(fèi)級(jí)SSD新產(chǎn)品PCB01,將在上半年內(nèi)完成開(kāi)發(fā),并將于今年內(nèi)正式推出。該款產(chǎn)品采用PCIe 5.0接口,連續(xù)讀取速度可達(dá)到14GB/秒(千兆字節(jié)),連續(xù)寫(xiě)入速度為12GB/秒。相較于上一代產(chǎn)品,PCB01速度提升了2倍,相當(dāng)于可在1秒內(nèi)實(shí)現(xiàn)加載需要用于人工智能學(xué)習(xí)和推理的大型語(yǔ)言模型;功耗效率提升了30%,可有效管理大規(guī)模AI計(jì)算的功耗需求。
三 結(jié)語(yǔ)
隨著生成式AI技術(shù)不斷迭代,應(yīng)用從云端擴(kuò)展至終端,AI與PC緊密結(jié)合已經(jīng)是大勢(shì)所趨。AI PC風(fēng)口下,產(chǎn)業(yè)迎來(lái)新一輪發(fā)展機(jī)會(huì),半導(dǎo)體廠商們,你們準(zhǔn)備好了嗎?
評(píng)論