色婷婷AⅤ一区二区三区|亚洲精品第一国产综合亚AV|久久精品官方网视频|日本28视频香蕉

          "); //-->

          博客專欄

          EEPW首頁 > 博客 > 外媒:換芯片、改軟件,中國AI公司“可有效規(guī)避美國制裁”

          外媒:換芯片、改軟件,中國AI公司“可有效規(guī)避美國制裁”

          發(fā)布人:芯片大師哥 時間:2023-06-23 來源:工程師 發(fā)布文章

          導讀:5月9日據Tom's Hardware報道,中國廠商正通過更換GPU、調整軟件等方式來訓練AI大模型,但代價是效率和成本。


          圖:被爆炒的英偉達H100

          芯片大師曾在馬斯克等簽署千人聯名信:立即停止巨型AI實驗一文中指出,國內AI廠商未來面臨自主設計的ASIC無法使用先進工藝制造,也無法獲得和競爭對手一樣的進口芯片的尷尬,中外由于芯片算力帶來的差距將進一步擴大。


          報道稱,為了彌補強大GPU(NVIDIA的A100/H100)的不足,中國AI大模型開發(fā)人員正在簡化他們的程序以降低要求,并結合使用他們可以獲得的所有計算硬件。


          據瑞銀分析師估計,OpenAI的ChatGPT背后的大規(guī)模語言模型需要5,000到10,000個Nvidia 的A100 GPU進行訓練。而阿里巴巴、百度和華為等公司已經探索使用NVIDIA的V100、P100及華為Ascend(昇騰)的組合。


          圖:中外主要AI算力芯片(浙商證券)

          據SemiAnalysis估計,OpenAI運營ChatGPT每天的花費高達700,000美元,因為ChatGPT需要大量的算力來響應海量用戶的需求,同時,大部分成本是基于他們所需的昂貴服務器。


          4月,騰訊推出了一個新的計算集群,使用NVIDIA H800s進行大規(guī)模AI模型訓練。但這種方法可能代價高昂,因為中國公司可能需要三倍的H800才能達到美國同行采用H100獲得的結果。


          這意味著,如果中國企業(yè)需要運營一個類似于ChatGPT的項目,每天的成本可能將高達210萬美元,但成本還不是最困難的。


          報道還稱,盡管中國有許多公司為AI工作負載開發(fā)處理器,但它們的硬件不受英偉達CUDA等強大軟件平臺的支持,這也是此前有報道稱基于此類芯片的機器“容易崩潰”的原因。


          圖:華為昇騰系列

          在最近的一篇論文中,華為研究人員演示了僅使用Ascend處理器來訓練他們最新一代的大型語言模型PanGu-Σ。雖然存在一些缺點,但該模型在閱讀理解和語法測試等一些中文任務中取得了最先進的性能。


          分析人士說,無法使用H100芯片給中國研究人員帶來了顯著的困難,該芯片包括一項額外的性能增強功能,特別適用于訓練類似ChatGPT的模型。與此同時,百度和鵬程實驗室去年發(fā)表的一篇論文表明,研究人員正在使用一種可以使附加功能變得無關緊要的方法來訓練大型語言模型。


          對此,SemiAnalysis首席分析師Dylan Patel認為:“如果運作良好,他們可以有效規(guī)避制裁?!?/span>


          *博客內容為網友個人發(fā)布,僅代表博主個人觀點,如有侵權請聯系工作人員刪除。



          關鍵詞: 芯片

          相關推薦

          技術專區(qū)

          關閉