單價(jià)炒到4萬美元!傳馬斯克已購入數(shù)千片英偉達(dá)H100
導(dǎo)讀:近日據(jù)CNBC報(bào)道,由于ChatGPT等語言模型火爆,英偉達(dá)最先進(jìn)的H100在eBay上的單片售價(jià)超過了4萬美元,而此前零售商的售價(jià)約為3.6萬美元。
圖:英偉達(dá)H100計(jì)算卡
H100是NVIDIA在2022年發(fā)布的旗艦AI芯片,取代了一直被稱為AI應(yīng)用“主力軍”的芯片A100,與A100相比,H100的能效提高了3.5倍,價(jià)格也從1萬美元上漲到超過3萬美元。
NVIDIA黃仁勛曾經(jīng)表示,20塊H100 GPU就可承托全球互聯(lián)網(wǎng)的流量。
芯片大師曾報(bào)道ChatGPT等火爆,英偉達(dá)增加A100等旗艦GPU投片,開發(fā)人員正在使用H100來構(gòu)建所謂的大型語言模型(LLMs)。
據(jù)報(bào)道,特斯拉CEO埃隆·馬斯克在美國內(nèi)華達(dá)州成立了一家名為X.AI的人工智能公司,旨在與Open AI展開競爭。據(jù)說馬斯克為了新項(xiàng)目已經(jīng)從NVIDIA購買了數(shù)千顆高性能GPU。
圖:單價(jià)被炒到4萬美元的H100
3D游戲先驅(qū)、前Meta consulting技術(shù)主管約翰·卡馬克在Twitter上提到英偉達(dá)H100的漲價(jià),上周五,至少有8個(gè)H100在eBay掛牌出售,價(jià)格從39995美元到46000美元不等。
而訓(xùn)練一個(gè)AI語言模型,尤其是像GPT這樣的大型模型,需要數(shù)百個(gè)高端GPU協(xié)同工作。比如微軟就斥資數(shù)億美元購買了數(shù)萬顆Nvidia A100芯片,幫助打造ChatGPT。
根據(jù)最近的爆料,為了創(chuàng)建和維持ChatGPT所需的人工智能分析數(shù)據(jù)的龐大數(shù)據(jù)庫,開發(fā)商OpenAI使用了10000個(gè)英偉達(dá)的GPU進(jìn)行相關(guān)的訓(xùn)練。而為了支持實(shí)際應(yīng)用,滿足服務(wù)器的需求,OpenAI已使用了約2.5萬個(gè)英偉達(dá)的GPU,隨著需求的增加未來預(yù)計(jì)還會增加。
圖:售價(jià)數(shù)百萬的英偉達(dá)DGX
此外,Nvidia還提供了一臺帶有八顆GPU的超級計(jì)算機(jī),稱為DGX。年初英偉達(dá)宣布推出新服務(wù),允許公司以每月37,000美元的價(jià)格租用DGX——該系統(tǒng)將使用Nvidia A100芯片。如果要購買,不同配置的DGX售價(jià)將高達(dá)數(shù)百萬元。
行業(yè)專家表示,要構(gòu)建比目前可用的模型更大、數(shù)據(jù)需求量更大的模型,將需要更強(qiáng)大的芯片。
同時(shí),由于當(dāng)前AI算力稀缺,高端GPU的價(jià)格和行情仍將上漲。
*博客內(nèi)容為網(wǎng)友個(gè)人發(fā)布,僅代表博主個(gè)人觀點(diǎn),如有侵權(quán)請聯(lián)系工作人員刪除。