xAI將建造一臺(tái)非常強(qiáng)大的超級(jí)計(jì)算機(jī)來(lái)處理下一版Grok
埃隆-馬斯克(Elon Musk)告訴投資者,他的眾多公司之一 xAI 希望建造一臺(tái)超級(jí)計(jì)算機(jī),為下一版的Grok 提供動(dòng)力。報(bào)道稱(chēng),xAI 可能會(huì)與甲骨文公司合作開(kāi)發(fā)超級(jí)計(jì)算機(jī),并在 2025 年底前準(zhǔn)備就緒。它顯然將使用大量英偉達(dá)(NVIDIA)的 H100 GPU,集群規(guī)模是目前最大集群的四倍。
本文引用地址:http://cafeforensic.com/article/202405/459201.htm這位億萬(wàn)富翁今年早些時(shí)候表示,Grok 2 需要 2 萬(wàn)個(gè)英偉達(dá) H100 GPU 才能完成訓(xùn)練,而即將推出的 Grok 模型將需要超過(guò) 10 萬(wàn)個(gè) H100 GPU。通過(guò)建造這臺(tái)被稱(chēng)為"計(jì)算機(jī)千兆工廠"的超級(jí)計(jì)算機(jī)(以特斯拉千兆工廠命名),xAI或許能夠開(kāi)發(fā)出更先進(jìn)的語(yǔ)言模型。
隨著OpenAI 的 ChatGPT在人工智能領(lǐng)域占據(jù)主導(dǎo)地位,你很可能還沒(méi)有嘗試過(guò)或聽(tīng)說(shuō)過(guò) Grok。它可以在 x.com 上使用,但需要用戶(hù)付費(fèi)訂閱。與其他模式相比,Grok 的一大優(yōu)勢(shì)是它可以直接訪(fǎng)問(wèn) X 上的所有帖子,馬斯克一直說(shuō) X 是新聞媒體的替代品。
馬斯克曾經(jīng)參與過(guò) OpenAI 的工作,直到他與公司負(fù)責(zé)人山姆-阿爾特曼(Sam Altman)在公司發(fā)展方向上產(chǎn)生分歧。與 OpenAI 對(duì) ChatGPT 的細(xì)節(jié)守口如瓶不同,xAI 最近開(kāi)源了 Grok-1 的權(quán)重和架構(gòu)。
如果 xAI 真的實(shí)施這些計(jì)劃,那么NVIDIA 將成為主要受益者,因?yàn)樗鼘?duì) H100 GPU 的需求將會(huì)增加。此舉對(duì)整個(gè)領(lǐng)域也有好處,因?yàn)樗鼘⑵仁蛊渌荆ㄈ?OpenAI 和Google)進(jìn)一步創(chuàng)新其模式,以保持領(lǐng)先地位。
不幸的是,所有這些額外的計(jì)算能力都需要以大量的某種能源供電,因此,希望馬斯克能找到一種使用可再生能源的方法,并將用水量控制在最低水平。
評(píng)論