英偉達(dá)爆出又一重磅產(chǎn)品:含256個GPU的AI超級計算機(jī)!
5月29日,英偉達(dá)在2023臺北電腦展大會上發(fā)布了多項重磅消息,其中最引人注目的是其Grace Hopper超級芯片已經(jīng)全面投產(chǎn)。這些芯片是英偉達(dá)新推出的DGX GH200人工智能超級計算平臺和MGX系統(tǒng)的核心組件,它們專為處理海量的生成型人工智能任務(wù)而設(shè)計。
本文引用地址:http://cafeforensic.com/article/202305/447181.htm新型超級計算機(jī):DGX GH200
英偉達(dá)宣布推出搭載256顆GH200 Grace Hopper超級芯片的新型DGX GH200人工智能超級計算機(jī)。新的DGX系統(tǒng)擁有更大的內(nèi)存容量和更大規(guī)模的模型能力,據(jù)悉DGX GH200的內(nèi)存儲量將是英偉達(dá)目前DGX A100系統(tǒng)的近500倍。
自去年年底OpenAI發(fā)布ChatGPT以來,生成式人工智能(AIGC)就成為熱度居高不下的新趨勢,該項技術(shù)需要通過超強(qiáng)算力來創(chuàng)建文本、圖像、視頻等內(nèi)容。而芯片巨頭英偉達(dá)所生產(chǎn)的人工智能芯片對該領(lǐng)域至關(guān)重要,計算能力方面的突破將使得AIGC應(yīng)用再次獲得巨大提升。
英偉達(dá)CEO黃仁勛在COMPUTEX 2023的主題演講中表示,“DGX GH200人工智能超級計算機(jī),集成了英偉達(dá)最先進(jìn)的加速計算和網(wǎng)絡(luò)技術(shù),以拓展人工智能的前沿?!?/p>
英偉達(dá)預(yù)計,其新型超級計算機(jī)將允許開發(fā)人員為人工智能聊天機(jī)器人以及復(fù)雜的算法構(gòu)建更好的語言模型,并創(chuàng)建更有效的欺詐檢測和數(shù)據(jù)分析。有海外知名媒體對此評價道,英偉達(dá)的新人工智能超級計算機(jī)將改變“游戲規(guī)則”。
超強(qiáng)算力
Grace Hopper超級芯片是英偉達(dá)開發(fā)的基于Arm架構(gòu)的CPU+GPU集成方案,它將72核的Grace CPU、Hopper GPU、96GB的HBM3和512GB的LPDDR5X集成在同一個封裝中,共有2000億個晶體管。這種組合提供了CPU和GPU之間驚人的數(shù)據(jù)帶寬,高達(dá)1TB/s,為某些內(nèi)存受限的工作負(fù)載提供了巨大的優(yōu)勢。
DGX GH200的細(xì)節(jié)還不太清楚,但已確認(rèn)英偉達(dá)使用了一種新的NVLink Switch系統(tǒng),包含36個NVLink Switch芯片將256個GH200 Grace Hopper芯片和144TB的共享內(nèi)存連接成一個單元。
DGX GH200人工智能超級計算平臺是英偉達(dá)針對最高端的人工智能和高性能計算工作負(fù)載而設(shè)計的系統(tǒng)和參考架構(gòu),目前的DGX A100系統(tǒng)只能將8個A100 GPU聯(lián)合起來作為一個單元,考慮到生成型人工智能的爆炸式增長,英偉達(dá)的客戶迫切需要更大、更強(qiáng)大的系統(tǒng)。
DGX GH200就是為了提供最大的吞吐量和可擴(kuò)展性而設(shè)計的,它通過使用英偉達(dá)的定制NVLink Switch芯片來避免標(biāo)準(zhǔn)集群連接選項(如InfiniBand和以太網(wǎng))的限制。
英偉達(dá)CEO黃仁勛表示GH200芯片為“巨型GPU”,這是英偉達(dá)第一次使用NVLink Switch拓?fù)浣Y(jié)構(gòu)來構(gòu)建整個超級計算機(jī)集群,稱這種結(jié)構(gòu)提供了比前一代系統(tǒng)高出10倍的GPU到GPU和7倍的CPU到GPU的帶寬。
它還設(shè)計了提供比競爭對手高出5倍的互連功耗效率和高達(dá)128TB/s的對分帶寬。該系統(tǒng)有50英里的光纖,并且重達(dá)4萬磅,但是呈現(xiàn)出來就像一個單一的GPU。英偉達(dá)表示256顆Grace Hopper超級芯片將DGX GH200的“AI性能”提升到了exaflop(一百萬萬億次)。
英偉達(dá)將把DGX GH200的參考藍(lán)圖提供給其主要客戶谷歌、Meta和微軟,并且還將把該系統(tǒng)作為云服務(wù)提供商和超大規(guī)模數(shù)據(jù)中心的參考架構(gòu)設(shè)計。該系統(tǒng)預(yù)計將于2023年底投入使用,目前英偉達(dá)沒有提供價格。
英偉達(dá)自己也將部署一個新的英偉達(dá)Helios超級計算機(jī),由四個DGX GH200系統(tǒng)組成,用于自家的研發(fā)工作。這四個系統(tǒng)共有1024個Grace Hopper芯片,并且用英偉達(dá)的Quantum-2 InfiniBand 400Gb/s網(wǎng)絡(luò)連接起來。
5月25日,英偉達(dá)公布了明顯高于華爾街預(yù)期的季度營收預(yù)測,此后該公司股價在一天內(nèi)飆升24%。季度報告表明,營收的上漲主要受惠于云計算平臺和大型科技公司對GPU芯片的需求。
評論