12月13日，北京——在AICon全球人工智能開發(fā)與應(yīng)用大會（AICon 北京 2024）上，英博數(shù)科正式發(fā)布了全新英博云系列智算產(chǎn)品與服務(wù)，覆蓋智算中心建設(shè)運維、GPU容器服務(wù)、先進算力實驗室和產(chǎn)業(yè)孵化器四大核心板塊。與此同時，英博數(shù)科首提**“單位有效算力成本”**這一創(chuàng)新指標，定義智算行業(yè)效率新標準，為企業(yè)提供高效、精準的算力管理工具，引領(lǐng)智能算力行業(yè)向高效益、多樣化的方向邁進。

生成式AI時代，算力需求迎來新拐點

隨著生成式AI的爆發(fā)，大模型已成為人工智能浪潮中的核心驅(qū)動力。其快速發(fā)展不僅加速了各行業(yè)的智能化升級，也對算力資源提出了前所未有的高要求。英博數(shù)科CTO李少鵬指出，智算行業(yè)正在經(jīng)歷從規(guī)模化擴展到精益化運營的深刻變革，主要體現(xiàn)為以下三大趨勢：

通用大模型訓(xùn)練規(guī)模不斷升級：算力集群從千卡躍升至萬卡甚至十萬卡級，成為推動技術(shù)迭代的基石；

垂直行業(yè)需求呈現(xiàn)分散化和動態(tài)化：金融、科研、零售等領(lǐng)域?qū)λ懔Φ膹椥孕枨笕找嬖黾樱?/p>

推理場景成為算力需求主導(dǎo)：隨著AI商業(yè)化落地，推理負載逐漸取代訓(xùn)練需求，成為市場增長的新動力。

然而，傳統(tǒng)的算力成本評估模式已難以滿足企業(yè)優(yōu)化資源的需求，算力閑置、成本過高等問題制約了AI技術(shù)的廣泛應(yīng)用。為此，英博數(shù)科提出了**“單位有效算力成本”**這一全新評估體系。

“單位有效算力成本”：開啟智算效率評估新模式

與傳統(tǒng)的算力成本評估僅關(guān)注硬件和運維成本不同，“單位有效算力成本”通過引入卡可用率、卡利用率和模型算力利用率三大指標，精準衡量實際算力利用水平。這一創(chuàng)新評估體系不僅提升了算力效率，還解決了因設(shè)備故障、資源閑置等造成的成本浪費問題。

英博數(shù)科CTO李少鵬表示：“‘單位有效算力成本’的提出，將評價重點從硬件投入轉(zhuǎn)向?qū)嶋H效益，為企業(yè)提供科學(xué)的算力管理依據(jù)，加速智算行業(yè)邁向高效化、透明化發(fā)展。”

英博云智算矩陣：全面賦能AI產(chǎn)業(yè)發(fā)展

1.智算中心建設(shè)運維

英博云提供模塊化、標準化的智算中心建設(shè)方案，支持大規(guī)模通用大模型的訓(xùn)練需求。其自研的高性能并行存儲、自動化故障恢復(fù)等技術(shù)，確保萬卡集群的穩(wěn)定高效運行。目前，該方案已成功應(yīng)用于京能智算中心項目，為項目的高效運轉(zhuǎn)提供了堅實支撐。

2.GPU容器服務(wù)

針對垂直領(lǐng)域分散、動態(tài)的算力需求，英博云推出GPU容器服務(wù)，支持VCluster形式的混合資源調(diào)度。通過秒級容器啟停、按小時/分鐘計費，該服務(wù)顯著降低企業(yè)成本，提升算力利用率。目前已覆蓋清華大學(xué)、中國科學(xué)院等高校及眾多中小企業(yè)。

3.先進算力實驗室

英博云的先進算力實驗室專注于硬件與軟件的深度評測與優(yōu)化，為企業(yè)提供基于GPU、存儲設(shè)備、訓(xùn)練框架等全方位的解決方案。通過行業(yè)標準制定和定制化服務(wù)，實驗室助力企業(yè)實現(xiàn)算力基礎(chǔ)設(shè)施的升級與優(yōu)化。

4.產(chǎn)業(yè)孵化器

英博云聯(lián)合AI產(chǎn)業(yè)鏈上下游，通過產(chǎn)業(yè)孵化器提供算力、資金、技術(shù)支持，助力AI初創(chuàng)企業(yè)實現(xiàn)技術(shù)研發(fā)和商業(yè)化落地，構(gòu)建開放合作的產(chǎn)業(yè)生態(tài)。

推動AI產(chǎn)業(yè)高效化發(fā)展，英博數(shù)科的未來布局

作為智算領(lǐng)域的創(chuàng)新者，英博數(shù)科通過**“單位有效算力成本”**和英博云多樣化產(chǎn)品矩陣，幫助企業(yè)優(yōu)化算力資源配置，降低成本，提升效率。在推動大模型研發(fā)與應(yīng)用的同時，英博數(shù)科致力于探索生成式AI的更多可能性，為AI商業(yè)化落地注入源源不斷的動力。

未來，英博數(shù)科將繼續(xù)以技術(shù)創(chuàng)新為核心，與更多行業(yè)伙伴攜手，推動智能算力行業(yè)向高效益、精益化和可持續(xù)發(fā)展邁進。