色婷婷AⅤ一区二区三区|亚洲精品第一国产综合亚AV|久久精品官方网视频|日本28视频香蕉

          新聞中心

          EEPW首頁 > EDA/PCB > 業(yè)界動態(tài) > Arm攜手行業(yè)領(lǐng)先企業(yè),共同打造面向未來的AI基礎(chǔ)

          Arm攜手行業(yè)領(lǐng)先企業(yè),共同打造面向未來的AI基礎(chǔ)

          作者: 時間:2023-11-07 來源:電子產(chǎn)品世界 收藏

          ? 今日宣布多項全新的戰(zhàn)略合作,繼續(xù)致力于推動人工智能 () 的創(chuàng)新,并將  的體驗變?yōu)楝F(xiàn)實。除了自身已能實現(xiàn)  開發(fā)的技術(shù)平臺之外, 還與 AMD、英特爾、Meta、微軟、NVIDIA 和高通技術(shù)公司等領(lǐng)先的科技企業(yè)攜手合作,通過多項計劃,聚焦于先進(jìn) AI 能力的實現(xiàn),由此帶來更快響應(yīng)、更加安全的用戶體驗。這些合作計劃將在所有計算進(jìn)行之處,助力 1500 多萬名  開發(fā)者,構(gòu)建其所需的基礎(chǔ)框架、技術(shù)和規(guī)范,帶來新一代的 AI 體驗。

          本文引用地址:http://cafeforensic.com/article/202311/452567.htm

          Arm 執(zhí)行副總裁兼首席架構(gòu)師與院士 Richard Grisenthwaite 表示:“AI 的廣泛應(yīng)用依賴于軟、硬件創(chuàng)新的持續(xù)協(xié)同。小到邊緣側(cè)運(yùn)行工作負(fù)載的小型傳感器,大到處理復(fù)雜工作負(fù)載以訓(xùn)練大語言模型 (LLM) 的大型服務(wù)器,軟硬件的協(xié)同發(fā)展將在每個技術(shù)節(jié)點中,助力 AI 能力的提升。隨著整個生態(tài)系統(tǒng)不斷發(fā)掘 AI 的真正潛力,我們也將面臨安全性、可持續(xù)性和數(shù)據(jù)瓶頸等諸多挑戰(zhàn)。因此,繼續(xù)探索行業(yè)內(nèi)的協(xié)作至關(guān)重要,為此,我們才能實現(xiàn) AI 的規(guī)?;?,包括加大邊緣側(cè)的推理能力?!?/p>

          助力邊緣AI發(fā)展

          當(dāng)下生成式 AI 和 LLM 正成為人們關(guān)注的焦點,而鑒于在智能手機(jī)領(lǐng)域,70% 的第三方 AI 應(yīng)用都運(yùn)行在 Arm CPU 上,Arm 已引領(lǐng)邊緣 AI 長達(dá)多年。在探索如何以可持續(xù)的方式實現(xiàn) AI 并高效傳輸數(shù)據(jù)的同時,行業(yè)也需要繼續(xù)發(fā)展以實現(xiàn)在邊緣側(cè)運(yùn)行 AI 和機(jī)器學(xué)習(xí) (ML) 模型,然而,開發(fā)者在此卻面臨著計算資源日益受限的難題,使這個任務(wù)的實現(xiàn)充滿了挑戰(zhàn)。

          Arm 正與 NVIDIA 展開合作,針對 NVIDIA TAO 進(jìn)行適配。這是一套針對 Arm Ethos?-U NPU 使用的低代碼開源 AI 工具包,有助于構(gòu)建性能優(yōu)化的視覺 AI 模型,并將其部署于搭載 Ethos-U 的處理器上。NVIDIA TAO 提供了一個易使用的界面,可在免費且開源的領(lǐng)先 AI 和 ML 框架——TensorFlow 和 PyTorch 上進(jìn)行構(gòu)建工作,為開發(fā)者帶來輕松無縫的模型開發(fā)和部署環(huán)境,同時賦能邊緣設(shè)備實現(xiàn)更復(fù)雜的 AI 工作負(fù)載,提升 AI 體驗。

          在所有設(shè)備與市場中推動神經(jīng)網(wǎng)絡(luò)的應(yīng)用

          在邊緣側(cè)推進(jìn)神經(jīng)網(wǎng)絡(luò)的部署是實現(xiàn) AI 可持續(xù)增長的重要一環(huán)。Arm 攜手 Meta,通過 ExecuTorch,將 PyTorch 引入基于 Arm 架構(gòu)的邊緣側(cè)移動和嵌入式平臺。ExecuTorch 可助力開發(fā)者更輕松地在移動和邊緣設(shè)備上,部署先進(jìn)的 AI 和 ML 工作負(fù)載所需的先進(jìn)神經(jīng)網(wǎng)絡(luò)。Arm 與 Meta 的合作將確保通過 PyTorch 和 ExecuTorch,開發(fā)者能在未來更輕松地開發(fā)和部署 AI 與 ML 模型。

          與 Meta 的合作依托于 Arm 在 Tensor 運(yùn)算符集架構(gòu) (TOSA) 方面的巨大投入,TOSA 為 AI 和 ML 加速器提供了通用框架,并支持廣泛的深度神經(jīng)網(wǎng)絡(luò)工作負(fù)載。在基于 Arm 架構(gòu)的各種處理器和數(shù)十億的設(shè)備上,TOSA 也將成為 AI 和 ML 的堅實基石。

          推動產(chǎn)業(yè)規(guī)?;腁I

          若要以相對低的成本實現(xiàn) AI 規(guī)?;涞?,支持廣泛的數(shù)據(jù)格式至關(guān)重要。Arm 一直在為諸多專注于 AI 工作負(fù)載的新型小數(shù)據(jù)類型提供支持。

          去年,Arm、英特爾和 NVIDIA 聯(lián)合發(fā)布了新型 8 位浮點規(guī)范,即“FP8”。自此 FP8 格式發(fā)展迅猛,參與合作的企業(yè)已擴(kuò)大至 AMD、Arm、谷歌、英特爾、Meta 和 NVIDIA,并共同制定了正式的 OCP 8 位浮點規(guī)范 (OFP8)。在最新的 A-profile 架構(gòu)更新中,Arm 添加了與該標(biāo)準(zhǔn)一致的 OFP8,以助力其在行業(yè)內(nèi)神經(jīng)網(wǎng)絡(luò)中的快速普及。OFP8 是交換 8 位數(shù)據(jù)格式,使軟件生態(tài)系統(tǒng)能夠輕松共享神經(jīng)網(wǎng)絡(luò)模型,從而不斷提高數(shù)十億設(shè)備上的 AI 計算能力。

          開放的標(biāo)準(zhǔn)對于推動 AI 生態(tài)系統(tǒng)的創(chuàng)新、一致性與互操作性至關(guān)重要。為繼續(xù)支持相關(guān)標(biāo)準(zhǔn)的行業(yè)協(xié)作,Arm 于近日正式加入了 MX 聯(lián)盟,該聯(lián)盟旗下成員包括了 AMD、Arm、英特爾、Meta、微軟、 NVIDIA 和高通技術(shù)公司。近期,MX 聯(lián)盟針對名為微擴(kuò)展的新技術(shù),進(jìn)行技術(shù)規(guī)范的合作。這項技術(shù)基于芯片設(shè)計領(lǐng)域多年的探索與研究,是一種用于 AI 應(yīng)用的窄位(8 位和 8 位以下)訓(xùn)練與推理的精細(xì)擴(kuò)展方法。該規(guī)范對窄位數(shù)據(jù)格式進(jìn)行了標(biāo)準(zhǔn)化,以消除行業(yè)的碎片化,實現(xiàn) AI 的規(guī)?;?。

          秉承合作精神,MX 聯(lián)盟通過開放計算項目 OCP,以開放、免許可的形式發(fā)布了 MX 規(guī)范。OCP 項目由超大規(guī)模數(shù)據(jù)中心運(yùn)營商和計算基礎(chǔ)設(shè)施領(lǐng)域的其他行業(yè)參與者組成,旨在促進(jìn)相關(guān)技術(shù)在業(yè)內(nèi)的廣泛采用。這也體現(xiàn)了各方認(rèn)識到在生態(tài)系統(tǒng)中對可擴(kuò)展 AI 解決方案提供公平訪問的必要需求。

          前所未有的AI創(chuàng)新

          Arm 已成為全球 AI 部署的基礎(chǔ)。Arm 致力于為開發(fā)者提供構(gòu)建先進(jìn)、復(fù)雜的 AI 工作負(fù)載所需的技術(shù),而上述的種種合作只是Arm 眾多舉措中的一部分。從傳感器、智能手機(jī)和軟件定義汽車,到服務(wù)器和超級計算機(jī),Arm 將成為未來 AI 發(fā)展的基石。



          關(guān)鍵詞: Arm AI

          評論


          相關(guān)推薦

          技術(shù)專區(qū)

          關(guān)閉