Rebellions尋求成為首家大規(guī)模生產(chǎn)人工智能芯片以支持語言模型的韓國初創(chuàng)企業(yè)
在位于首爾南部的一座辦公大樓里,一打芯片并排放在架子上,每個芯片旁邊都有自己的電風(fēng)扇來降溫。
這些名為ATOM的芯片是韓國初創(chuàng)企業(yè)Rebellions開發(fā)的最新神經(jīng)處理單元(NPU),目標(biāo)是擁有多達(dá)70億個參數(shù)的人工智能模型。它們的性能正在進(jìn)行測試,并與同一樓層上另一個房間里的幾個Nvidia的A100 GPU進(jìn)行比較。
作為下一代人工智能芯片,NPU是針對同時進(jìn)行矩陣運算進(jìn)行優(yōu)化的處理器,意味著它們在深度學(xué)習(xí)方面比通用中央處理單元(CPU)和圖形處理單元(GPU)更進(jìn)一步。
2020年由五名韓國工程師共同創(chuàng)立的無晶圓廠人工智能芯片初創(chuàng)企業(yè)Rebellions被認(rèn)為是與Nvidia在該領(lǐng)域匹敵或競爭的最佳希望。
Rebellions首席執(zhí)行官兼聯(lián)合創(chuàng)始人樸成炫(Park Sung-hyun)在本周早些時候接受《韓國時報》采訪時表示,ATOM將于2024年上半年利用三星的5納米技術(shù)進(jìn)行大規(guī)模生產(chǎn),這將是韓國芯片工業(yè)的重要里程碑,因為ATOM將是第一個在大規(guī)模生產(chǎn)水平上支持語言模型的國產(chǎn)芯片。
“我們在AI推理方面比Nvidia的GPU更節(jié)能,”樸成炫說道,指的是通過訓(xùn)練后的人工智能模型運行實時數(shù)據(jù)以進(jìn)行預(yù)測或解決任務(wù)的過程。他補充說,ATOM在語言模型推理基準(zhǔn)測試中的延遲只有Nvidia A2的一半,功耗效率是Nvidia A100的五倍。
從視覺上看,ATOM芯片只需要風(fēng)扇降溫,而Nvidia芯片需要在空調(diào)環(huán)境中運行——這意味著更多的功耗和更高的運營成本。
Rebellions的崛起正值全球半導(dǎo)體行業(yè)為AI芯片展開激烈競爭之際,這受到了openAI的ChatGPT的普及以及對Nvidia GPU的需求不斷增長的推動。
韓國以其在內(nèi)存芯片制造業(yè)中的地位而聞名,正準(zhǔn)備在這個蓬勃發(fā)展的市場上獲得牢固的立足點。例如,三星電子正在與臺積電競爭AI芯片制造業(yè)的主導(dǎo)地位,而韓國政府則旨在到2030年將國內(nèi)數(shù)據(jù)中心中本地開發(fā)的AI芯片份額增加到80%。
Rebellions已經(jīng)獲得了韓國科技行業(yè)幾個最大公司的支持,包括三星、KT和Kakao。
今年1月,Rebellions完成了由KT領(lǐng)投的最新一輪融資,總額達(dá)到1.24億美元,迄今為止,KT在這家初創(chuàng)企業(yè)上已經(jīng)投資了超過5000萬美元。這將Rebellions的估值提高到6.5億美元,成為韓國資金最多的芯片初創(chuàng)企業(yè)。
樸表示,進(jìn)入大規(guī)模生產(chǎn)將對公司的收入產(chǎn)生重大推動,經(jīng)過多年的原型階段。根據(jù)樸的說法,KT,韓國第二大電信運營商和韓國最大的數(shù)據(jù)中心公司,將成為Rebellions在開始大規(guī)模生產(chǎn)ATOM后的首個客戶。樸認(rèn)為,電信公司是AI芯片最理想的客戶。
“AI行業(yè)的未來將成為基礎(chǔ)設(shè)施游戲。電信公司愿意向建立數(shù)據(jù)中心投入大量資金,”他說道。
樸成炫還希望與韓國最大的數(shù)據(jù)中心公司的合作伙伴關(guān)系將成為其全球擴(kuò)張的參考,尤其是在美國市場。樸成炫表示,該公司已與一些美國主要的超大規(guī)模云服務(wù)提供商進(jìn)行了談判,例如IBM。
樸成炫于2014年從麻省理工學(xué)院獲得電氣工程和計算機(jī)科學(xué)博士學(xué)位,曾在美國芯片行業(yè)工作了六年,曾在三星的美國研究部門、英特爾和SpaceX工作過。
盡管在美國芯片行業(yè)有著豐富的經(jīng)驗,但樸成炫認(rèn)為在韓國創(chuàng)辦半導(dǎo)體公司有更好的機(jī)會?!霸诎雽?dǎo)體硬件生態(tài)系統(tǒng)中,亞洲將是下一個大事件,”他說道。“韓國和臺灣正在迎頭趕上。”
樸成炫于2020年回到祖國,并與另一位在美國具有行業(yè)背景的韓國人工智能芯片專家吳進(jìn)旭(Oh Jin-wook)以及其他聯(lián)合創(chuàng)始人一起創(chuàng)立了Rebellions。
對于樸成炫來說,這不是一個容易的決定,因為當(dāng)時他在美國的行業(yè)網(wǎng)絡(luò)大部分在美國。Rebellions最初的團(tuán)隊成員包括來自IBM、英特爾和蘋果以及三星美國的人物。
現(xiàn)在,它擁有大約120名員工,其中近100名是工程師。隨著團(tuán)隊的擴(kuò)大,它吸引了本地背景的專家,其中來自韓國大型半導(dǎo)體公司的員工占據(jù)了近70%,根據(jù)樸的說法。
Rebellions在2021年推出了名為ION的第一款產(chǎn)品,使用臺積電制造的芯片,針對金融行業(yè)的AI任務(wù)。然后,該公司決定重新將重點放在AI模型的芯片上,因為與金融公司相比,數(shù)據(jù)中心公司的需求更高。
三星,韓國最大的芯片制造商,是Rebellions的ATOM的制造合作伙伴。去年10月,這兩家公司加深了他們的合作關(guān)系,宣布計劃在ATOM之后共同開發(fā)REBEL,這是該初創(chuàng)企業(yè)的下一代NPU,用于更大參數(shù)規(guī)模的LLMs,并與Nvidia的頂級GPU H200進(jìn)行比較。
樸成炫對REBEL寄予更大的希望,該芯片預(yù)計將在今年下半年完成開發(fā)并開始大規(guī)模生產(chǎn),采用三星的4納米制造工藝。
隨著生成式人工智能市場的不斷擴(kuò)大,樸成炫預(yù)計推理芯片的需求將成為一個關(guān)鍵增長點。
“AI訓(xùn)練流量取決于開發(fā)人員的數(shù)量,而AI推理流量隨著最終用戶的數(shù)量增加而增加,”樸成炫說道?!澳壳?,訓(xùn)練和推理市場幾乎占據(jù)一半,但未來推理流量將大幅增加?!?/p>
在兩年半的時間里,樸成炫看到了該公司在韓國LLM市場中的份額增長了30%,在推理任務(wù)方面占據(jù)了“至少3到5%”的份額。根據(jù)分析師的估計,目前,據(jù)估計,Nvidia在全球AI芯片市場的份額高達(dá)90%。
評論