色婷婷AⅤ一区二区三区|亚洲精品第一国产综合亚AV|久久精品官方网视频|日本28视频香蕉

          "); //-->

          博客專欄

          EEPW首頁(yè) > 博客 > 下一代AI“超級(jí)芯片”呼之欲出

          下一代AI“超級(jí)芯片”呼之欲出

          發(fā)布人:芯股嬸 時(shí)間:2024-03-15 來(lái)源:工程師 發(fā)布文章

          AI芯片巨頭英偉達(dá)最備受關(guān)注的GTC開(kāi)發(fā)者大會(huì)即將召開(kāi),全球AI算力走向備受關(guān)注。

          隨著英國(guó)芯片架構(gòu)企業(yè)Arm繼續(xù)發(fā)力服務(wù)器市場(chǎng),并在近期更新了其服務(wù)器處理器Arm Neoverse系列的產(chǎn)品路線圖后,推出兩款基于全新第三代Neoverse IP構(gòu)建的新的Arm Neoverse計(jì)算子系統(tǒng)(CSS)。外界也將初窺下一代整合CPU與GPU的AI“超級(jí)芯片”部分面貌,英偉達(dá)是否跟進(jìn)也將備受關(guān)注。

          Neoverse是Arm于2018年推出、針對(duì)數(shù)據(jù)中心市場(chǎng)的服務(wù)器處理器品牌,在Arm規(guī)劃下,Neoverse旗下N系列、V系列和E系列各有定位,如V系列即強(qiáng)調(diào)性能優(yōu)先,用于高端服務(wù)器市場(chǎng),上一代Neoverse V2就被用于英偉達(dá)的AI芯片設(shè)計(jì)中。

          去年3月,英偉達(dá)推出首款將CPU和GPU封裝到一起的“Grace Hopper”GH200超級(jí)芯片。其中“Grace”就是英偉達(dá)在2021年4月發(fā)布的數(shù)據(jù)中心Arm CPU系列,“Hopper”即英偉達(dá)最新架構(gòu)GPU量產(chǎn)型號(hào)H100。

          一位芯片行業(yè)投資人告訴界面新聞?dòng)浾?,英偉達(dá)的Grace Hopper芯片就是將CPU與頂級(jí)AI訓(xùn)練產(chǎn)品(GPU)一起,打造出“超級(jí)芯片”,共同構(gòu)建了AI完整解決方案。

          GH200可用于AI訓(xùn)練和推理,英偉達(dá)通過(guò)將一塊CPU與一塊H100 GPU封裝成一整塊芯片,大幅提高了CPU、GPU間數(shù)據(jù)傳輸效率。在同年11月,英偉達(dá)再將GH200升級(jí),將GH200中GPU配備的96GB容量HBM3內(nèi)存,升級(jí)為144GB的HBM3e,再次大幅提高數(shù)據(jù)傳輸效率。

          在英偉達(dá)憑借GPU產(chǎn)品抓住AI浪潮的過(guò)程中,Arm也從英偉達(dá)在AI計(jì)算的強(qiáng)勢(shì)地位中受益,意味著數(shù)據(jù)中心市場(chǎng)將可能更多采用基于Arm技術(shù)的處理器。

          Arm基礎(chǔ)設(shè)施事業(yè)部總經(jīng)理Mohamed Awad向界面新聞?dòng)浾呓忉專ミ_(dá)之前推出的Grace Hopper超級(jí)芯片重新設(shè)計(jì)了系統(tǒng)架構(gòu),過(guò)去數(shù)據(jù)中心使用一顆CPU管理多個(gè)GPU的設(shè)計(jì),而Grace Hopper芯片轉(zhuǎn)變?yōu)橐活wCPU只對(duì)應(yīng)一個(gè)GPU?!案嗟腃PU意味著內(nèi)存一致性,最終會(huì)大大提高GPU的利用率。”

          Arm稱,隨著行業(yè)對(duì)AI算力的需求逐漸由訓(xùn)練向推理轉(zhuǎn)型,CPU推理將是生成式AI計(jì)算應(yīng)用的關(guān)鍵組成。

          但并非所有AI處理都將在CPU上進(jìn)行。Arm基礎(chǔ)設(shè)施事業(yè)部產(chǎn)品解決方案副總裁Dermot O'Driscoll以Grace Hopper為例稱,英偉達(dá)對(duì)該芯片的一項(xiàng)重要?jiǎng)?chuàng)新在于內(nèi)存容量和共享內(nèi)存模式,此類緊耦合CPU設(shè)計(jì)加上配置AI加速器,對(duì)當(dāng)前流行的大參數(shù)大語(yǔ)言模型和其他AI應(yīng)用非常有益。

          為了使得定制芯片變得更迅速且降低設(shè)計(jì)難度,Arm于去年推出了Arm Neoverse CSS。在Neoverse CSS中,由Arm配置、優(yōu)化和驗(yàn)證完整的計(jì)算子系統(tǒng),并針對(duì)各類計(jì)算用例進(jìn)行配置,合作伙伴則專注于軟件調(diào)優(yōu)、定制加速等工作,還能能加速產(chǎn)品上市時(shí)間、降低工程成本。

          Dermot O'Driscoll指出,Neoverse CSS是專為幫助客戶在Arm CPU平臺(tái)上,快速打造通用計(jì)算芯粒而推出的產(chǎn)品。它能提供客戶所需的所有接口,以便選擇耦合自身的加速器。這種方法既可以在需要CPU時(shí)提供CPU,又可以在需要AI加速器時(shí)提供AI加速器,做到兩全其美。

          一直以來(lái),對(duì)于自研Arm架構(gòu)的Grace CPU,英偉達(dá)極力淡化與英特爾、AMD的競(jìng)爭(zhēng)色彩。

          黃仁勛曾在2021年向界面新聞?dòng)浾弑硎荆^大多數(shù)數(shù)據(jù)中心仍將繼續(xù)使用現(xiàn)有x86 CPU,Grace則主要用于計(jì)算領(lǐng)域大型數(shù)據(jù)密集型細(xì)分市場(chǎng),不會(huì)對(duì)現(xiàn)有CPU廠商帶來(lái)“改變游戲規(guī)則”般的影響。

          不過(guò),市場(chǎng)格局已經(jīng)發(fā)生了改變。在數(shù)據(jù)中心市場(chǎng),Arm正逐漸站穩(wěn)腳跟,對(duì)英特爾、AMD兩巨頭形成挑戰(zhàn)。

          根據(jù)市場(chǎng)研究機(jī)構(gòu)Counterpoint報(bào)告,Arm架構(gòu)服務(wù)器2022年首次在數(shù)據(jù)中心市場(chǎng)獲得超10億美元收入,其中AWS自研芯片占該市場(chǎng)3.16%份額,Ampere占1.52%。隨著微軟在2023年部署其自研的Arm芯片,以及Grace Hopper的出貨,預(yù)計(jì)Arm在服務(wù)器市場(chǎng)份額還將繼續(xù)上升。


          *博客內(nèi)容為網(wǎng)友個(gè)人發(fā)布,僅代表博主個(gè)人觀點(diǎn),如有侵權(quán)請(qǐng)聯(lián)系工作人員刪除。



          關(guān)鍵詞: 芯片

          相關(guān)推薦

          技術(shù)專區(qū)

          關(guān)閉