使用外部AI加速器,讓i.MX處理器機器學習處理更給力!
恩智浦精心打造了i.MX應用處理器、i.MX RT跨界微控制器(MCU)產(chǎn)品組合和芯片系列,可滿足廣泛的市場需求。從需要極低功耗的垂直產(chǎn)品,到需要配有多個CPU、2D-3D GPU、DSP和NPU機器學習加速器的復雜異構(gòu)計算平臺的其他終端產(chǎn)品,我們的產(chǎn)品團隊需要解決多維優(yōu)化問題。最終目標是提供各種應用和產(chǎn)品所需的所有計算能力和連接,同時最大限度地減少未使用的功能,從而滿足設(shè)備的占用空間面積、功耗和成本要求。
說到機器學習,有一些最終用途,例如自動駕駛車輛和自然語言處理,將邊緣設(shè)備的計算要求推高到每秒數(shù)十萬和數(shù)百萬億次運算(TOP)的高極限。隨著業(yè)界日益重視開發(fā)專門面向邊緣的高效的ML模型,并使用量化和修剪等技術(shù),許多邊緣機器學習應用適用于從Giga-Ops到較低的個位數(shù)TOPs的ML計算性能。恩智浦解決方案本身便可滿足這大部分AI處理需求。
按細分市場劃分的ML應用和 TOPs計算需求
如今,軟件投資主導著硬件選擇,在考慮產(chǎn)品路線圖和多代產(chǎn)品時尤為如此。在開發(fā)一系列終端產(chǎn)品時,選擇相同或類似的應用處理器顯然有很大的優(yōu)勢,這樣開發(fā)工作就可以轉(zhuǎn)化為更高的成熟度和質(zhì)量,還可以重復使用。不同的細分市場對應用的某些部分要求的性能不同,但不同版本和各級產(chǎn)品的基本功能保持不變。
可擴展的處理器系列(如i.MX應用處理器)使開發(fā)人員能夠在各種高級功能和性能中靈活選擇,同時還可提供通用的基本計算架構(gòu)和功能集供產(chǎn)品組合中的成員使用,還提供通用的軟件使能單元。恩智浦提供GStreamer和NNStreamer框架,通過ML簡化視覺應用的部署。GStreamer被用作創(chuàng)建流媒體應用的框架,抽象出硬件層,允許使用任何i.MX SoC而無需改變底層的視覺pipeline軟件。
即使產(chǎn)品在市場上推出后,應用要求和市場需求也會不斷變化。那么,當您需要所選擇的應用處理器提供更多功能時,您會怎么做?返回選擇流程并尋找更高性能的處理器通常不是首選。在需要時添加另一個器件來提供額外的加速是可行的途徑,特別是具有高速高帶寬、低延遲的芯片到芯片連接選項(如PCIe)。恩智浦的生態(tài)體系合作伙伴通過專用的ML加速器芯片助您一臂之力。
Kinara是恩智浦的一個生態(tài)體系合作伙伴,開發(fā)面向?qū)S肕L加速的Ara-1 Edge AI處理器。恩智浦提供基于Gstreamer和NNStreamer的視覺pipeline支持,Kinara開發(fā)了Gstreamer兼容插件集,在這兩者的加持下,可無縫地將Ara-1集成到恩智浦推理pipeline,并且還能夠在功能需求改變時輕松地將設(shè)計遷移到不同的i.MX應用處理器。
Kinara和恩智浦如何協(xié)作提升嵌入式平臺的AI性能,使其超越原生功能?了解詳情,請閱讀白皮書>>
將恩智浦i.MX應用處理器的原生ML處理能力與恩智浦生態(tài)體系合作伙伴(如Kinara)提供的專用ML加速器相結(jié)合,在恩智浦原有可擴展性的基礎(chǔ)上進一步提高,同時仍然可以使用相同的軟件。
本文作者
Ali Ors,恩智浦半導體邊緣處理AI機器學習戰(zhàn)略技術(shù)主管。Ali專門負責領(lǐng)導跨職能團隊,為機器學習和愿景處理領(lǐng)域提供創(chuàng)新產(chǎn)品和平臺。他目前在恩智浦負責全球AI機器學習戰(zhàn)略和技術(shù)。Ali曾在恩智浦汽車業(yè)務部負責ADAS和自主產(chǎn)品的AI戰(zhàn)略、戰(zhàn)略伙伴關(guān)系和平臺設(shè)計。加入恩智浦之前,Ali是CogniVue公司的工程副總裁,負責開發(fā)視覺SoC解決方案和認知處理器IP內(nèi)核。Ali持有加拿大渥太華卡爾頓大學的工程學學位。
*博客內(nèi)容為網(wǎng)友個人發(fā)布,僅代表博主個人觀點,如有侵權(quán)請聯(lián)系工作人員刪除。