當(dāng)邊緣AI走進(jìn)日常...
人工智能(AI)技術(shù)已走進(jìn)我們的世界。每次您讓Alexa做事時(shí),機(jī)器學(xué)習(xí)技術(shù)都會(huì)努力弄清楚您說的內(nèi)容,并試圖對(duì)您想讓它做的事情做出最佳判斷。每次Netflix或亞馬遜向您推薦“下一部電影”或“下一次購貨商品”時(shí),都是基于復(fù)雜的機(jī)器學(xué)習(xí)算法,為您提供更有吸引力的推薦,這些推薦遠(yuǎn)比過去的促銷更誘人。雖然我們可能不是每個(gè)人都有自動(dòng)駕駛汽車,但我們都敏銳地意識(shí)到了該領(lǐng)域的發(fā)展和自主導(dǎo)航的潛力。
本文引用地址:http://cafeforensic.com/article/202409/463281.htm人工智能技術(shù)大有前途——它讓機(jī)器可以根據(jù)周圍的世界做出決策,像人類一樣處理信息,甚至處理方式還會(huì)優(yōu)于人類。但是,如果您仔細(xì)想一想上面的這些例子,就會(huì)發(fā)現(xiàn)這里的人工智能承諾只能通過“大型機(jī)器”來實(shí)現(xiàn)——這些機(jī)器沒有功率、尺寸或成本限制,或者換言之,它們會(huì)發(fā)熱、擁有線路功率、尺寸很大,而且很貴。Alexa和Netflix依靠云端的大型、高耗電服務(wù)器來分析您的意圖。雖然自動(dòng)駕駛汽車很可能要依賴電池供電,但考慮到電池必須能夠驅(qū)動(dòng)車輪和轉(zhuǎn)向,因此需要提供很高的容量,即便與非常昂貴的人工智能決策相比,它也要消耗大量的能源。
目前,人工智能的發(fā)展的很不錯(cuò),但是人工智能的“小型化,邊緣化”卻滯后了。那些由小型電池供電或存在成本和尺寸限制的設(shè)備無法實(shí)現(xiàn)機(jī)器的視覺和聽覺分析功能。目前,這些小型機(jī)器只能利用簡單的人工智能技術(shù):也許只是聽一個(gè)關(guān)鍵詞,或者分析低維信號(hào),比如用光容積描記術(shù)(PPG)來測(cè)量心率。
但是,小型設(shè)備能夠看到和聽到是否有實(shí)用價(jià)值呢?思考一下,像門鈴攝像頭這樣的小產(chǎn)品需要使用自動(dòng)駕駛或自然語言處理等大的人工智能技術(shù)嗎?似乎也沒有必要。因此可以考慮采用不太復(fù)雜、處理強(qiáng)度不大的小型化的,邊緣的人工智能計(jì)算,比如詞匯識(shí)別、語音識(shí)別和圖像分析。
普通的門鈴攝像頭和消費(fèi)類安保攝像頭經(jīng)常會(huì)被一些無關(guān)緊要的事件觸發(fā),比如刮風(fēng)引起的植物擺動(dòng)、云彩引起的劇烈光線變化、甚至是狗或貓?jiān)跀z像頭前跑動(dòng)。這些事件可能會(huì)導(dǎo)致誤觸發(fā),從而使需要房主去操作忽視并清除此類觸發(fā)事件。尤其糟糕的是,如果房主正好在世界其它地方旅行,而家里的攝像頭卻對(duì)日出、云彩、日落造成的光線變化發(fā)出了誤警報(bào)會(huì)影響他們睡眠和旅行。然后一個(gè)智能攝像頭能夠基于更具體的事件觸發(fā),例如在所監(jiān)控的畫面中出現(xiàn)了一個(gè)人。
門鎖或其它出入口可使用面部識(shí)別,甚至是語音識(shí)別來授予人員訪問權(quán)限,在某些情況下不需要鑰匙或胸卡。
很多攝像頭都希望在發(fā)生某些特定事件時(shí)觸發(fā):例如,跟蹤攝像頭可能希望在畫面中出現(xiàn)鹿時(shí)被觸發(fā),安保攝像頭可能希望在畫面中有人或出現(xiàn)開門或腳步聲等噪音時(shí)被觸發(fā),而個(gè)人攝像頭可能希望通過語音命令來觸發(fā)。
雖然有很多“HeyAlexa”這樣的簡單解決方案,但多詞匯量命令在很多應(yīng)用中都非常有用。如果您具備識(shí)別20個(gè)或更多單詞的詞匯表,就可以在工業(yè)設(shè)備、家居自動(dòng)化、烹飪?cè)O(shè)備和大量其它設(shè)備中應(yīng)用,以簡化人機(jī)交互。
這些例子只觸及表層:讓小型機(jī)器看到、聽到和解決過去需要人為干預(yù)的問題,這就是一種很強(qiáng)大的思路,而且我們每天都不在不斷發(fā)現(xiàn)智能化的創(chuàng)造的新用例。
那么,如果人工智能對(duì)小型機(jī)器具有如此實(shí)用價(jià)值,為什么我們還沒有開發(fā)出來呢?答案是計(jì)算能力。人工智能推理是神經(jīng)網(wǎng)絡(luò)模型計(jì)算的結(jié)果??梢园焉窠?jīng)網(wǎng)絡(luò)模型看作是大腦處理圖像或聲音的粗略近似形態(tài),將其分解為非常小的片段,然后在這些小碎片組合在一起時(shí)識(shí)別出模型?,F(xiàn)代化視覺問題的主要模型是卷積神經(jīng)網(wǎng)絡(luò)(CNN)。這類模型在圖像分析方面非常出色,在音頻分析方面也非常有用。問題在于,這些模型需要數(shù)百萬或數(shù)十億次的數(shù)學(xué)計(jì)算。用傳統(tǒng)的設(shè)計(jì)方法,這些應(yīng)用在實(shí)施時(shí)會(huì)面臨一個(gè)困難的抉擇:
使用低成本、低功耗的微控制器解決方案。雖然平均功耗可能很低,但卷積神經(jīng)網(wǎng)絡(luò)可能需要幾秒鐘的時(shí)間來計(jì)算,這意味著人工智能推理不是實(shí)時(shí)的,意味著它會(huì)消耗大量的電池電量。
購置一個(gè)昂貴的高性能處理器,就能在規(guī)定的延遲內(nèi)完成這些數(shù)學(xué)運(yùn)算。這些處理器通常很大,需要很多外部組件,包括散熱器或類似的冷卻組件。不過,它們執(zhí)行人工智能推理的速度非???。
低功耗微控制器解決方案的速度太慢,無法發(fā)揮作用,而高性能處理器方法會(huì)超出成本、尺寸和電源預(yù)算,可以說上述兩種方案都不夠理想,難以實(shí)施
我們需要的是一個(gè)從頭開始構(gòu)建的嵌入式人工智能解決方案,盡可能減少卷積神經(jīng)網(wǎng)絡(luò)計(jì)算所需的能耗。人工智能推理需要以比傳統(tǒng)微控制器或處理器解決方案更少的能量來執(zhí)行,并且無需借助能耗高、尺寸大、成本大的外部組件(如存儲(chǔ)器)。如果人工智能推理解決方案實(shí)際上能夠消除機(jī)器視覺的能量損失,那么即使是最小的設(shè)備也能看到并識(shí)別周圍世界發(fā)生的事情。
幸運(yùn)的是,我們現(xiàn)在已經(jīng)處于這場(chǎng)“小型機(jī)器”革命的開端。我們?cè)谑袌?chǎng)上已經(jīng)推出的產(chǎn)品——MAX78000,一款新型AI微控制器,能夠使神經(jīng)網(wǎng)絡(luò)以超低功耗運(yùn)行,已經(jīng)消除人工智能推理的能源成本,并實(shí)現(xiàn)電池供電的機(jī)器視覺功能。
MAX78000是一款新型的AI微控制器,使神經(jīng)網(wǎng)絡(luò)能夠在互聯(lián)網(wǎng)邊緣端以超低功耗運(yùn)行,將高能效的AI處理與經(jīng)過驗(yàn)證的Maxim超低功耗微控制器相結(jié)合。通過這款基于硬件的卷積神經(jīng)網(wǎng)絡(luò)(CNN)加速器,即使是電池供電的應(yīng)用也可執(zhí)行AI推理,同時(shí)功耗僅為微焦耳級(jí)。
作為一款先進(jìn)的片上系統(tǒng), MAX78000 集成帶FPU CPU的Arm ? Cortex ? -M4內(nèi)核,通過超低功耗深度神經(jīng)網(wǎng)絡(luò)加速器實(shí)現(xiàn)高效的系統(tǒng)控制。CNN引擎具有442KB的權(quán)重存儲(chǔ)器,可支持1、2、4和8位權(quán)重(支持高達(dá)350萬權(quán)重的網(wǎng)絡(luò))。該CNN權(quán)重存儲(chǔ)器基于SRAM,因此可進(jìn)行AI網(wǎng)絡(luò)的即時(shí)更新。同時(shí),CNN引擎還集成了512KB的數(shù)據(jù)存儲(chǔ)器。高度靈活的CNN架構(gòu)允許用戶通過PyTorch ? 和TensorFlow ? 等傳統(tǒng)工具集訓(xùn)練網(wǎng)絡(luò),然后經(jīng)Maxim提供的工具轉(zhuǎn)換后在MAX78000上運(yùn)行。
除CNN引擎的存儲(chǔ)器之外,MAX78000還具備適配微控制器內(nèi)核的大型片內(nèi)系統(tǒng)存儲(chǔ)器,具有512KB的閃存和高達(dá)128KB的SRAM,支持多個(gè)高速和低功耗的通信接口,包括I2S和并行攝像頭接口(PCIF)。
評(píng)論