當前，人工智能技術(shù)正以其獨特的魅力和巨大的潛力引領(lǐng)著新一輪科技革命。AI大模型的爆發(fā)帶動了GPU市場的繁榮，從云端到邊緣AI應(yīng)用也催生邊緣AI服務(wù)器及AI加速處理器的巨大需求。

在邊緣AI應(yīng)用場景中，大數(shù)據(jù)與大模型的運算、推理依靠GPU的運行效能和帶寬，AI的訓練與微調(diào)依賴顯存容量。為支撐70B、405B甚至大于1000B模型的訓練與微調(diào)任務(wù)，現(xiàn)有市場方案依靠多顯卡集群的方式拼湊顯存與算力。現(xiàn)行的多顯卡集群方式投入成本昂貴，且高性能GPU算力卡國內(nèi)限購，成本高，后續(xù)維護進階難，極大程度阻礙AI應(yīng)用場景落地，導致無法充分賦能企業(yè)。

銓興科技的AI超大模型全參微調(diào)、訓推一體解決方案

深圳市銓興科技有限公司作為半導體存儲領(lǐng)域的解決方案供應(yīng)商，憑借二十余年深厚的存儲技術(shù)底蘊與不懈的創(chuàng)新追求，結(jié)合AI人工智能技術(shù)原理，把存儲技術(shù)和算力在訓練超大模型全參微調(diào)、訓練推理方面有機結(jié)合，創(chuàng)新推出銓興超大模型AI訓推一體解決方案。

銓興超大模型AI訓推一體解決方案是由“銓興添翼AI擴容卡、企業(yè)級固態(tài)硬盤、服務(wù)器內(nèi)存”等核心組件的AI訓推一體服務(wù)器解決方案，整體部署方案具備低成本、低功耗、安全等顯著優(yōu)勢。

銓興科技創(chuàng)新推出的添翼AI擴容卡，通過優(yōu)化中間層驅(qū)動，打破顯存墻，使得GPU可用顯存空間直升20倍！

銓興科技AI全參微調(diào)、訓推一體解決方案解決什么問題

銓興科技AI超大模型全參微調(diào)、訓推一體解決方案,解決了高階顯卡購買難、硬件成本高、功耗大的痛點，解決了企業(yè)人工智能本地化部署最后一公里的難題，使本地端專屬AI應(yīng)用唾手可得，助力開啟全民AI時代。

· 適配場景靈活多樣

銓興解決方案對Llama、Mistral、千問、智普等主流開源大模型實現(xiàn)了完美支持，可廣泛應(yīng)用于政府項目、數(shù)據(jù)中心、高校科研、企業(yè)專屬服務(wù)等領(lǐng)域。

· 顯著降低配置成本、能耗低

以實現(xiàn)Llama-3.1(70B)高算力的大模型訓練為例，現(xiàn)行的市場方案所需GPU加速卡顯存空間約1500GB，要配置二十四張80GB顯存的GPU，使用叁臺服務(wù)器集群，其運算能耗超30KW，存在顯卡數(shù)量多、體積占地空間大、電力基礎(chǔ)設(shè)施要求高、功耗大、整體部署成本超750萬，價格昂貴等多樣難題。

銓興推出的運算體系機構(gòu)配置兩張銓興添翼AI擴容卡，僅用四張不禁售的中階顯卡（20GB顯存GPU），壹臺服務(wù)器工作站即實現(xiàn)部署。銓興AI大模型訓推一體解決方案使用中階顯卡，解決高階購買難的痛點，且顯卡數(shù)量明顯減少，噪聲低于60dB，體積小巧靈活，整體部署價格低于100萬，僅為傳統(tǒng)方案價格的15%，功耗低至2kW，不到傳統(tǒng)方案的10%，大大降低大模型訓練的進入門檻成本，銓興科技出色的技術(shù)實力和超前沿的存算解決方案，展現(xiàn)了人工智能產(chǎn)業(yè)算力和存力完美結(jié)合，給人工智能產(chǎn)業(yè)帶來積極影響，推動銓民參與的AI低成本的時代的到來。

· 應(yīng)用場景廣泛

該方案適用70B-180B超大模型全參微調(diào)、訓推一體，典型案例包括政府政務(wù)AI、科研AI、高校AI教學、法律AI、金融AI等多樣B端客戶專業(yè)服務(wù)等。

目前已經(jīng)與多家國產(chǎn)CPU、國產(chǎn)GPU、軟件服務(wù)商、AI服務(wù)器整機廠商、廈門大學等高校以及政府部門建立了合作關(guān)系，共同推動AI技術(shù)的發(fā)展和應(yīng)用。

銓興科技推動AI產(chǎn)業(yè)高質(zhì)量

人工智能作為引領(lǐng)未來的戰(zhàn)略性技術(shù)，已經(jīng)成為發(fā)展新質(zhì)生產(chǎn)力的主要陣地。銓興科技精準解決中小企業(yè)AI人工智能落地部署的痛點，開發(fā)出前瞻性與實用性的半導體存儲解決方案，為各行各業(yè)提供更加智能化、個性化、接地氣的解決方案，驅(qū)動各企業(yè)的數(shù)字化與智能化，實現(xiàn)全域全時全場景應(yīng)用持續(xù)深化，推動AI人工智能產(chǎn)業(yè)高質(zhì)量加速發(fā)展！