色婷婷AⅤ一区二区三区|亚洲精品第一国产综合亚AV|久久精品官方网视频|日本28视频香蕉

          新聞中心

          EEPW首頁(yè) > 智能計(jì)算 > 業(yè)界動(dòng)態(tài) > 高通持續(xù)推動(dòng)終端側(cè)生成式AI變革,推出高通AI Hub賦能開(kāi)發(fā)者

          高通持續(xù)推動(dòng)終端側(cè)生成式AI變革,推出高通AI Hub賦能開(kāi)發(fā)者

          作者: 時(shí)間:2024-02-26 來(lái)源:電子產(chǎn)品世界 收藏

          要點(diǎn):

          本文引用地址:http://cafeforensic.com/article/202402/455722.htm

          ·       現(xiàn)賦能終端側(cè)AI在下一代PC、智能手機(jī)、軟件定義汽車(chē)、XR設(shè)備和物聯(lián)網(wǎng)等領(lǐng)域規(guī)?;逃?,讓智能計(jì)算無(wú)處不在。

          ·       為驍龍和平臺(tái)提供超過(guò)75個(gè)優(yōu)化AI模型,助力開(kāi)發(fā)者縮短產(chǎn)品上市時(shí)間,并讓終端側(cè)AI的諸多優(yōu)勢(shì)在應(yīng)用程序上得以發(fā)揮。這些模型也將在Hugging FaceGitHub上提供。開(kāi)發(fā)者只需通過(guò)幾行代碼即可在搭載高通平臺(tái)的云托管終端上自行運(yùn)行這些模型。

          ·       高通AI研究(Qualcomm AI Research)演示了Android智能手機(jī)和Windows PC上運(yùn)行多模態(tài)大模型和定制大視覺(jué)模型。

          image.png

          2024226日,巴塞羅那——高通技術(shù)公司在巴塞羅那世界移動(dòng)通信大會(huì)(MWC)上發(fā)布了公司在AI領(lǐng)域的最新進(jìn)展。從全新高通?、到前沿研究突破以及AI賦能的商用終端展示,高通技術(shù)公司正在為開(kāi)發(fā)者賦能,并變革驍龍?和高通平臺(tái)支持的廣泛終端品類(lèi)上的用戶(hù)體驗(yàn)。

           

          高通技術(shù)公司高級(jí)副總裁兼技術(shù)規(guī)劃和邊緣解決方案業(yè)務(wù)總經(jīng)理馬德嘉表示:“隨著面向智能手機(jī)的第三代驍龍8和面向PC的驍龍X Elite的推出,我們開(kāi)啟了終端側(cè)AI的規(guī)?;逃谩,F(xiàn)在,借助高通,我們將賦能開(kāi)發(fā)者充分發(fā)揮這些前沿技術(shù)的潛力,打造具有吸引力的AI賦能應(yīng)用。高通AI Hub為開(kāi)發(fā)者提供了一個(gè)全面的AI模型庫(kù),使他們能夠輕松快速地將預(yù)優(yōu)化AI模型集成進(jìn)應(yīng)用程序,從而打造更快、更可靠且更具隱私性的用戶(hù)體驗(yàn)?!?/span>

           

                                                        image.png

           

          高通AI Hub開(kāi)發(fā)者開(kāi)啟卓越終端側(cè)AI性能

          全新高通AI Hub包含預(yù)優(yōu)化AI模型庫(kù),支持在搭載驍龍和高通平臺(tái)的終端上進(jìn)行無(wú)縫部署。該模型庫(kù)為開(kāi)發(fā)者提供超過(guò)75個(gè)主流的AI和生成式AI模型,比如Whisper、ControlNet、Stable DiffusionBaichuan-7B,可在不同執(zhí)行環(huán)境(runtime)中打包,能夠在不同形態(tài)終端中實(shí)現(xiàn)卓越的終端側(cè)AI性能、降低內(nèi)存占用并提升能效。所有模型均經(jīng)過(guò)優(yōu)化,以充分利用高通AI引擎內(nèi)所有核心(NPU、CPUGPU)的硬件加速能力,從而使推理速度提升4倍。AI模型庫(kù)能夠自動(dòng)處理從源框架到主流執(zhí)行環(huán)境的模型轉(zhuǎn)換,直接與高通AI引擎Direct SDK協(xié)同工作,并應(yīng)用硬件感知優(yōu)化。開(kāi)發(fā)者可將這些模型無(wú)縫集成進(jìn)應(yīng)用程序,縮短產(chǎn)品上市時(shí)間,發(fā)揮終端側(cè)AI部署的諸多優(yōu)勢(shì),比如即時(shí)性、可靠性、隱私、個(gè)性化和成本優(yōu)勢(shì)。

           

          這些優(yōu)化模型現(xiàn)已在高通AI HubGitHubHugging Face上提供。高通AI Hub將持續(xù)增加新模型,同時(shí)還將支持更多平臺(tái)和操作系統(tǒng)。開(kāi)發(fā)者現(xiàn)可注冊(cè)登錄,在搭載高通技術(shù)公司平臺(tái)的云托管終端上自行運(yùn)行模型,并通過(guò)高通AI Hub提前獲取新特性和AI模型。

           

          Hugging Face聯(lián)合創(chuàng)始人兼CEO Clement Delangue表示:“我們很高興能夠在Hugging Face上托管高通技術(shù)公司的AI模型。這些主流AI模型面向終端側(cè)機(jī)器學(xué)習(xí)而優(yōu)化,并且可在驍龍和高通平臺(tái)上使用,將賦能下一代移動(dòng)開(kāi)發(fā)者和邊緣AI應(yīng)用,讓AI進(jìn)一步惠及所有人。”

           

          image.png

           

          前沿AI研究進(jìn)展

          ·       高通AI研究展示了首個(gè)在Android智能手機(jī)上運(yùn)行的大語(yǔ)言和視覺(jué)助理大模型(LLaVA),這是一個(gè)超過(guò)70億參數(shù)的大型多模態(tài)語(yǔ)言模型(LMM),可接受包括文本和圖像在內(nèi)的多種類(lèi)型的數(shù)據(jù)輸入,并能夠與AI助手生成關(guān)于圖像的多輪對(duì)話。該LMM能夠在終端側(cè)以實(shí)時(shí)響應(yīng)的速度生成token,從而增強(qiáng)了隱私、可靠性、個(gè)性化和成本優(yōu)勢(shì)。具有語(yǔ)言理解和視覺(jué)理解能力的LMM能夠賦能諸多用例,例如識(shí)別和討論復(fù)雜的視覺(jué)圖案、物體和場(chǎng)景。

          ·       高通AI研究還將展示高通首個(gè)Android智能手機(jī)上運(yùn)行的LoRA模型。通過(guò)運(yùn)行支持LoRAStable Diffusion,用戶(hù)可基于個(gè)人或藝術(shù)偏好創(chuàng)建高質(zhì)量自定義圖像。LoRA減少了AI模型的可訓(xùn)練參數(shù)數(shù)量,賦能更加高效、可擴(kuò)展、定制化的終端側(cè)生成式AI用例。除了能夠?qū)崿F(xiàn)針對(duì)不同的藝術(shù)風(fēng)格賦能語(yǔ)言視覺(jué)大模型(LVM)微調(diào)外,LoRA廣泛適用于定制AI模型(如大語(yǔ)言模型),以打造量身定制的個(gè)人助手、改進(jìn)語(yǔ)言翻譯等。

          ·       Windows PC上,高通AI研究將展示全球首個(gè)在終端側(cè)運(yùn)行的超過(guò)70億參數(shù)的大型多模態(tài)語(yǔ)言模型(LMM),可接受文本和音頻輸入(如音樂(lè)、交通環(huán)境音頻等),并基于音頻內(nèi)容生成多輪對(duì)話。

           

          MWC巴塞羅那上展示跨終端品類(lèi)賦能生成式AI

          ·       智能手機(jī):高通技術(shù)公司將展示一系列搭載第三代驍龍?8移動(dòng)平臺(tái)的商用旗艦AI智能手機(jī),包括榮耀Magic6 Pro、OPPO Find X7 UltraXiaomi 14 Pro。每款終端都集成了令人興奮的生成式AI新特性,比如圖像擴(kuò)充(小米)、智慧成片和一拖日程(榮耀)、AI消除(OPPO)。

          ·       PC:全新驍龍X Elite及其45 TOPS NPU專(zhuān)為終端側(cè)AI打造,將變革用戶(hù)與PC的交互方式。高通技術(shù)公司將使用廣受歡迎的免費(fèi)圖像編輯器GIMP集成Stable Diffusion插件進(jìn)行演示:用戶(hù)可輸入想要的圖像,生成式AI將在7秒內(nèi)生成圖像,速度比x86競(jìng)品快3倍。

          ·       汽車(chē):利用行業(yè)領(lǐng)先的AI硬件和軟件解決方案,高通技術(shù)公司還將演示驍龍?數(shù)字底盤(pán)?平臺(tái)支持的傳統(tǒng)AI和生成式AI功能,旨在為駕乘人員提供更加強(qiáng)大、高效、隱私、安全且個(gè)性化的體驗(yàn)。

          ·       消費(fèi)級(jí)物聯(lián)網(wǎng):公司將展示在驍龍平臺(tái)上運(yùn)行的Humane AI Pin,讓用戶(hù)能夠在全新、對(duì)話式以及無(wú)屏的終端形態(tài)中隨時(shí)隨地使用AI。

          ·       連接:全新推出的驍龍X80調(diào)制解調(diào)器及射頻系統(tǒng)集成第二代5G AI處理器,助力提升蜂窩性能,擴(kuò)大覆蓋范圍,降低時(shí)延并提高能效。高通還推出首個(gè)AI優(yōu)化的Wi-Fi 7系統(tǒng)——高通FastConnect? 7900移動(dòng)連接系統(tǒng),利用AI為自適應(yīng)、高性能、低時(shí)延和低功耗的本地無(wú)線連接樹(shù)立新標(biāo)桿。

          ·       5G基礎(chǔ)設(shè)施:高通技術(shù)公司將展示三項(xiàng)突破性的AI輔助網(wǎng)絡(luò)管理增強(qiáng)特性,包括助力無(wú)線接入網(wǎng)(RAN)工程師簡(jiǎn)化網(wǎng)絡(luò)和切片管理任務(wù)的生成式AI助手,降低網(wǎng)絡(luò)能耗的AI輔助開(kāi)放式RAN應(yīng)用程序(rApp),以及AI輔助5G網(wǎng)絡(luò)切片生命周期管理套件。

           

          欲了解有關(guān)高通技術(shù)公司AI創(chuàng)新和演示的更多信息,請(qǐng)?jiān)L問(wèn)公司網(wǎng)站或蒞臨MWC巴塞羅那高通展位(Fira Gran Via 3號(hào)廳3E10號(hào))參觀體驗(yàn)。



          關(guān)鍵詞: 高通 生成式AI AI Hub

          評(píng)論


          相關(guān)推薦

          技術(shù)專(zhuān)區(qū)

          關(guān)閉