Graphcore與Cirrascale聯(lián)合發(fā)布Graphcloud利用Graphcore MK2 IPU云計算加速創(chuàng)新
近日,Graphcore宣布其在幫助客戶加速創(chuàng)新和大規(guī)模利用人工智能技術(shù)上,又邁出了新的一步。
本文引用地址:http://cafeforensic.com/article/202101/422415.htmGraphcore與Cirrascale Cloud Services (以下簡稱Cirrascale)攜手,為云上人工智能帶來全新內(nèi)容:借助首個公開發(fā)行的、基于第二代IPU的IPU-POD(MK2 IPU-POD)橫向擴(kuò)展集群,不需要擁有和運營數(shù)據(jù)中心,我們提供了一種簡單方法來實現(xiàn)來按需增加計算容量。
Graphcore認(rèn)識到,人工智能技術(shù)為市場帶來了巨大的機(jī)遇,同時也帶來了一系列獨特的計算挑戰(zhàn):模型的尺寸正在迅速增加,精度的標(biāo)準(zhǔn)也在不斷提高。如果客戶想要充分利用最新的創(chuàng)新,他們就需要一個緊密集成的、專門為人工智能構(gòu)建的硬件和軟件系統(tǒng)。
Graphcloud是一項安全可靠的IPU-POD系列云服務(wù),讓客戶在從實驗、概念驗證和試點項目擴(kuò)展到更大的生產(chǎn)系統(tǒng)時,能夠獲取Graphcore IPU的強(qiáng)大功能。
首發(fā)時,Graphcore提供兩款可用產(chǎn)品。在未來數(shù)月,Graphcore將提供更大的橫向擴(kuò)展系統(tǒng):
● IPU-POD16:提供4 PetaFLOPS的人工智能計算(4個IPU-M2000,即16個Colossus MK2 GC200 IPU)
● IPU-POD64:提供16 PetaFLOPS的人工智能計算(16個IPU-M2000,即64個Colossus MK2 GC200 IPU)
與最新的GPU系統(tǒng)相比 ,IPU-POD系統(tǒng)可降低訓(xùn)練總成本,并縮短解決時間。
Graphcloud系統(tǒng)實例已預(yù)裝了Poplar和系統(tǒng)軟件。示例代碼和應(yīng)用示例可在本地獲得,并可用于那些在Graphcore基準(zhǔn)測試中使用的先進(jìn)模型,包括BERT和EfficientNet。用戶還可以訪問全面的文檔,這些文檔可幫助他們快速啟用包括PyTorch和TensorFlow在內(nèi)的多個框架。
總部位于英國的 Healx 是最早使用Graphcloud的Graphcore客戶之一,該公司的人工智能藥物研發(fā)平臺正在尋找罕見疾病的新療法。該公司在2019年人工智能大獎中獲得“健康和醫(yī)學(xué)領(lǐng)域的最佳AI應(yīng)用獎”(Best Use of AI in Health and Medicine)。
Healx機(jī)器學(xué)習(xí)工程技術(shù)負(fù)責(zé)人Dan O’Donovan表示:“我們從2020年12月下旬開始在Graphcloud上使用IPU-POD16,將我們現(xiàn)有的MK1 IPU代碼遷移到MK2系統(tǒng)上運行。這一過程毫無障礙,并且?guī)砭薮蟮男阅軆?yōu)勢。為模型提供更多的存儲意味著我們不再需要切分模型,而只需專注切分?jǐn)?shù)據(jù)即可。這使得代碼更為簡單,模型訓(xùn)練更加高效?!?/p>
他還指出:“在與Graphcore的合作中,Graphcore始終為我們開放最新硬件、SDK和工具的訪問權(quán)限。此外,我們還可以通過直接會議和支持服務(wù)部門與Graphcore的硬件和軟件專業(yè)工程師持續(xù)進(jìn)行對話溝通?!?/p>
對于Graphcloud的發(fā)布,Graphcore聯(lián)合創(chuàng)始人兼CEO Nigel Toon表示:“無論用戶是初次評估我們的硬件和Poplar軟件棧,還是擴(kuò)展人工智能計算資源,借助Graphcloud,啟用IPU變得前所未有的簡單。我們很高興與Cirrascale合作,將Graphcloud推向世界。Graphcloud與我們的全球合作伙伴計劃、內(nèi)部銷售和工程支持等重要組成部分,共同構(gòu)成/構(gòu)建了Graphcore全方位的產(chǎn)品與服務(wù)?!?/p>
Cirrascale CEO PJ Go表示:“ Cirrascale對于與Graphcore的戰(zhàn)略合作感到非常自豪,此次合作進(jìn)一步推動了基于云的機(jī)器學(xué)習(xí)解決方案時代的發(fā)展,進(jìn)而與財富500強(qiáng)公司一起進(jìn)行全新的、大規(guī)模商業(yè)部署。”
定價與規(guī)格
可用系統(tǒng)類型
IPU-POD16 4個IPU-M2000系統(tǒng)
IPU-POD64 16個IPU-M2000系統(tǒng)
定價
系統(tǒng) | IPU-POD16 | IPU-POD64 |
費用/三年 | $212500 | $850000 |
費用/小時 (三年付) | $8.08 | $32.34 |
費用/年 | $118750 | $475000 |
費用/小時 (一年付) | $13.55 | $54.22 |
費用/月 | $16000 | $64000 |
費用/小時 (一月付) | $22.22 | $88.88 |
費用/周 | $5000 | $20000 |
費用/小時 (一周付) | $29.76 | $119.05 |
規(guī)格
● 兩個系統(tǒng)都利用了Graphcore獨特的IPU-Fabric?互連架構(gòu)。IPU-Fabric?專為消除通信瓶頸設(shè)計,并允許成千上萬個IPU作為單個高性能、超快速凝聚單元在機(jī)器智能工作負(fù)載上運行。
● 每個IPU-POD64實例均由4臺Dell R6525主機(jī)服務(wù)器支持,并且配有最強(qiáng)大的本地人工智能數(shù)據(jù)中心系統(tǒng)所使用的雙插槽AMD EPYC2 CPU,而每個IPU-POD16均有一臺相同規(guī)格的專用服務(wù)器。
● 為IPU-POD64和IPU-POD16分別提供了16TB和4TB的安全本地NVMe存儲。
● 每個IPU-POD64都提供57.6GB的處理器內(nèi)存儲和2048GB的流存儲(32 x 64GB DIMM)。
● 每個IPU-POD16提供14.4GB處理器內(nèi)存儲和512GB流存儲(8 x 64GB DIMM)。
評論