為解決算力問(wèn)題，中企選擇“多芯片混合”訓(xùn)練AI模型
加入技術(shù)交流群
掃碼加入
和技術(shù)大咖面對(duì)面交流
海量資料庫(kù)查詢
7月4日消息，據(jù)Digitimes報(bào)道，為解決人工智能（AI）芯片算力問(wèn)題，中國(guó)AI公司正實(shí)施“多芯片混合”的策略來(lái)提高在AI計(jì)算方面的能力的同時(shí)，進(jìn)一步避免供應(yīng)鏈安全問(wèn)題。
多芯片混合計(jì)算的方法有諸多優(yōu)勢(shì)，包括利用多個(gè)不同型號(hào)的GPU并行訓(xùn)練，來(lái)共同提高大語(yǔ)言模型（LLM）訓(xùn)練速度，因同時(shí)可以處理更多數(shù)據(jù)，可更好利用內(nèi)存，中國(guó)廠商可以降低對(duì)于更昂貴的英偉達(dá)（NVIDIA）芯片的依賴，進(jìn)而降低成本。
自2022年10月以來(lái)，受美國(guó)持續(xù)升級(jí)的限制政策的影響，中國(guó)獲取國(guó)外高性能AI芯片受到了極大的限制。因此，目前也依然存在著一些灰色渠道，但是供給量還是比較有限的。同樣，雖然中國(guó)本土也有一些AI芯片，但是性能和產(chǎn)能也都比較有限。
傳聞稱，目前中國(guó)公司已經(jīng)開始開發(fā)“多芯片混合”技術(shù)，將不同芯片組成一個(gè)訓(xùn)練集群，包括百度和阿里巴巴都在研究這項(xiàng)解決方案。例如，百度在其 2024 年財(cái)報(bào)電話會(huì)議上宣布，它可以組合來(lái)自不同供應(yīng)商的 GPU 并將其用于 AI 訓(xùn)練。另一家中國(guó)大型科技公司阿里巴巴自 2021 年以來(lái)一直致力于“一云多芯片”解決方案。但也面臨諸多挑戰(zhàn)，例如需要像NVIDIA NVLink這樣的高速構(gòu)架，確保不同的加速器能高效通信。不過(guò)，阿里云已經(jīng)開始轉(zhuǎn)向使用基于以太網(wǎng)的高性能網(wǎng)絡(luò)。
編輯：芯智訊-林子
*博客內(nèi)容為網(wǎng)友個(gè)人發(fā)布，僅代表博主個(gè)人觀點(diǎn)，如有侵權(quán)請(qǐng)聯(lián)系工作人員刪除。
