開啟邊緣智能新時代 ST引領(lǐng)AI開發(fā)潮流
這些裝置將滲透到日常生活的方方面面,從家庭到工廠,從公司到城市,從大樓到交通出行,幾乎無處不在。當(dāng)我們深入剖析這些裝置的運作模式以及它們所帶來的商業(yè)模式時,我們便能清晰地看到邊緣AI為我們的未來開創(chuàng)了怎樣的新局面。
那么,意法半導(dǎo)體是如何將這一遠景轉(zhuǎn)化為現(xiàn)實的呢?這又需要哪些關(guān)鍵元素的支持呢?意法半導(dǎo)體亞太區(qū)人工智能技術(shù)創(chuàng)新中心暨智能手機技術(shù)創(chuàng)新中心的資深經(jīng)理Matteo MARAVITA指出,邊緣AI的實現(xiàn)離不開三個基本要素:安全性、連接性和自主性。而在今天的分享中,他將重點聚焦于第三個要素——如何提升這些裝置的智能和自主性,而?時將安全性和連接性問題置于一旁。他將進一步探討意法半導(dǎo)體是如何在這一領(lǐng)域?qū)崿F(xiàn)其遠景的。
圖二
以車用傳感器為例,Matteo MARAVITA介紹了意法半導(dǎo)體與HPE集團的合作。他們正在利用邊緣AI技術(shù)來優(yōu)化電動汽車的馬達運作。他們開發(fā)了一種名為“虛擬傳感器”的解決方案,該方案將AI算法運用在最新的Stellar系列車規(guī)微控制器上。這個算法能從傳感器中獲取馬達運作的數(shù)據(jù),并利用這些數(shù)據(jù)來推斷和估計那些無法直接測量的馬達內(nèi)部溫度。值得一提的是,這個車規(guī)微控制器不僅能執(zhí)行人工智能任務(wù),還能驅(qū)動馬達,并同時運行其他預(yù)測性維護的AI算法,以識別減震、機械和電氣系統(tǒng)中可能存在的異常狀態(tài)。
圖三
在近期的一項技術(shù)合作中,知名計算機與筆記本電腦市場的領(lǐng)軍企業(yè)惠普與合作伙伴攜手,利用先進的智慧傳感器技術(shù),針對筆記本電腦的電源監(jiān)控進行了優(yōu)化。該方案的核心在于采用了ST的六軸IMU MEMS傳感器,惠普與ST的工程師們緊密合作,通過在不同環(huán)境條件下收集IMU傳感器的資料,并根據(jù)不同設(shè)備與用戶行為模式來開發(fā)和訓(xùn)練AI模型。
圖四
此次合作目的在識別特定使用場景,例如用戶將筆記本電腦合上并放入計算機包前忘記關(guān)閉電源的情況。在此類情況下,由于未能及時關(guān)閉系統(tǒng),筆記本電腦可能會過熱,導(dǎo)致電池迅速耗盡。為了解決這一問題,雙方全面收集了各類資料,并合作開發(fā)了機器學(xué)習(xí)模型。一旦模型經(jīng)過驗證,該算法將被整合至智能傳感器中,從而實現(xiàn)更為精準(zhǔn)的電源管理。
此外,在另一項引人注目的應(yīng)用中,AI技術(shù)也被成功引入到了日常生活中已存在數(shù)十年的洗衣機領(lǐng)域。隨著技術(shù)的不斷進步,現(xiàn)代洗衣機在馬達控制性能上已實現(xiàn)了顯著的提升,相較于15或20年前的洗衣機,現(xiàn)在的洗衣機不僅馬達性能更高,而且能耗更低。
圖五
在此次創(chuàng)新中,STM32微控制器被用于控制洗衣機的馬達運行,并同時執(zhí)行AI算法。馬達控制器算法將馬達的電流狀態(tài)信息發(fā)送至AI算法,后者利用這些信息來估算待洗衣物的重量。通過更準(zhǔn)確地估算衣物重量,洗衣機能夠選擇更為合適的洗滌程序,從而以恰到好處的電流驅(qū)動馬達,減少整體用水量、洗衣液用量以及能源消耗。據(jù)統(tǒng)計,這一技術(shù)可為一個洗衣周期節(jié)省高達15到40%的能源和水資源。
不僅如此,AI算法還具備提前檢測洗衣機滾筒在旋轉(zhuǎn)過程中可能發(fā)生的碰撞以及撞擊洗衣機外殼的能力。這一功能的實現(xiàn)得益于ST的六軸IMU傳感器,使得整體解決方案更加穩(wěn)定可靠。
通過這些案例,我們可以看到,越來越多的公司、應(yīng)用領(lǐng)域的工程師們正積極尋求將人工智能技術(shù)整合到他們的產(chǎn)品中,以實現(xiàn)更高效、節(jié)能和穩(wěn)定的性能。
圖六
在當(dāng)前的技術(shù)領(lǐng)域中,開發(fā)人員仍然面臨著一系列挑戰(zhàn)。這些挑戰(zhàn)主要可分為硬件和軟件兩大層面。從硬件角度來看,盡管開發(fā)者追求實現(xiàn)人工智能功能,但仍需兼顧整體性能、安全性以及功耗控制。特別是在選擇硬件時,必須確保其具備特定的安全功能,并能在維持低功耗的同時穩(wěn)定運行。對于半導(dǎo)體供貨商而言,如意法半導(dǎo)體,他們致力于為客戶提供一系列整體方案,以應(yīng)對不同硬設(shè)備的挑戰(zhàn)。
圖七
在另一方面,軟件層面的挑戰(zhàn)同樣不容忽視。為了在設(shè)備中實現(xiàn)可訓(xùn)練的模型,開發(fā)者不僅需要在最終產(chǎn)品中創(chuàng)建、訓(xùn)練和部署模型,還需負責(zé)其維護。特別是在邊緣AI領(lǐng)域,這一挑戰(zhàn)尤為突出。
意法半導(dǎo)體早在十年前便開始了AI研發(fā)計劃。他們從機器學(xué)習(xí)的基礎(chǔ)研究入手,專注于未來將成為焦點的邊緣設(shè)備。因此,他們的機器學(xué)習(xí)技術(shù)特別針對硬件資源受限的設(shè)備進行了優(yōu)化。2018年,他們推出了首個STM32 AI函數(shù)庫——STM32Cube.AI,并自此開始與客戶合作,共同開發(fā)了多個項目。
圖八
同年,他們還推出了首款內(nèi)置MLC機器學(xué)習(xí)核心的MEMS傳感器,該傳感器具備機器學(xué)習(xí)模型硬件加速功能。此外,他們還加入了TinyML聯(lián)盟,并隨后將AI的布局和支持范圍擴展至其他芯片,如車用微控制器和Linux相關(guān)產(chǎn)品,如STM32微處理器。
到了2021年,意法半導(dǎo)體進一步推出了新的AutoML工具生態(tài)系統(tǒng)NanoEdge AI。一年后,他們再次發(fā)布了新款具有更先進硬件加速器的MEMS傳感器,該傳感器能夠在同一設(shè)備內(nèi)運行更小的深度學(xué)習(xí)網(wǎng)絡(luò)。去年,他們繼續(xù)改進軟件生態(tài)系統(tǒng),推出了STM32開發(fā)者云端模型庫,并更新了Stellar系列車規(guī)MCU工具。
圖九
值得一提的是,STM32在通用微控制器領(lǐng)域取得了顯著成績。在MLPerf Tiny基準(zhǔn)檢驗中,STM32提交的項目數(shù)量位居第一,占所有提交項目的73%。這充分證明了意法半導(dǎo)體多年的努力得到了回報,并吸引了大量開發(fā)者在其平臺上進行邊緣AI的開發(fā)與探索。
圖十
這一成功的背后,有三個關(guān)鍵因素不可忽視。首先,意法半導(dǎo)體在通用微控制器、工業(yè)和消費性微控制器市場具有優(yōu)勢地位,STM32系列特別適用于這些應(yīng)用。其次,他們對邊緣AI基準(zhǔn)檢驗做出了重要貢獻,如MLPerf Tiny基準(zhǔn)檢驗。最后,他們的在線平臺——STM32 AI開發(fā)者云端平臺,為客戶和開發(fā)者提供了便捷的在線工具和STM32開發(fā)板,?明他們輕松測試模型。這些因素共同推動了STM32在AI創(chuàng)新領(lǐng)域的廣泛應(yīng)用。
圖十一
在成功利用硬件解決方案協(xié)助開發(fā)者應(yīng)對硬件挑戰(zhàn)之后,ST如今進一步聚焦如何?明客戶克服軟件方面的挑戰(zhàn)。開發(fā)邊緣AI解決方案涉及多種類型的AI工程師,他們各自擁有不同的開發(fā)技能,因此其需求也各不相同。
圖十二
嵌入式軟件工程師是專注于實現(xiàn)邊緣AI并將其無縫整合到整個系統(tǒng)中的關(guān)鍵角色。這類工程師往往會從可靠的示例項目入手,根據(jù)特定應(yīng)用需求調(diào)整參考設(shè)計。與此同時,機器學(xué)習(xí)工程師、AI工程師或數(shù)據(jù)科學(xué)家則主要致力于機器學(xué)習(xí)模型的研發(fā),他們不僅關(guān)注模型的數(shù)據(jù)集,還需根據(jù)目標(biāo)硬件裝置優(yōu)化模型性能。
圖十三
硬件工程師則渴望擁有一個簡便的基準(zhǔn)檢驗工具,以便在不同的硬件平臺或組件上測試數(shù)據(jù)科學(xué)家提供的先進算法,并在性能、功耗、尺寸和價格之間找到最佳平衡點。
鑒于這些多樣化的需求,ST開發(fā)了一個獨特的工具——ST Edge AI開發(fā)工具包,以滿足各類工程師的需求。
圖十四
那么,ST Edge AI開發(fā)工具包究竟是什么呢?它是一個集成了邊緣AI開發(fā)所需全套工具和模塊的綜合性解決方案。從利用模型庫建立示例、收集數(shù)據(jù)集,到將模型部署到特定硬件,該套件覆蓋了整個開發(fā)流程??蛻艨梢岳肧T的AutoML工具直接從數(shù)據(jù)開始構(gòu)建模型,或者采用自研或第三方工具將自主研發(fā)的模型導(dǎo)入套件,進行模型基準(zhǔn)檢驗,并在硬件上部署模型。
圖十五
ST Edge AI開發(fā)工具包旨在支持多種硬件,包括MEMS傳感器、微控制器、MPU微處理器以及車用微控制器。此外,套件還提供了豐富的開發(fā)資源,如文檔、培訓(xùn)課程和小區(qū)訪問權(quán)限等,為開發(fā)者提供了全方位的支持。
圖十六
ST正致力于將多個工具整合為一個全面的邊緣AI開發(fā)工具包,詳細信息已全部呈現(xiàn)。這一生態(tài)系統(tǒng)不僅與內(nèi)部AI開發(fā)流程相兼容,同時也與外部AI開發(fā)生態(tài)系統(tǒng)保持協(xié)同工作。值得一提的是,該套件支持眾多主流且廣泛應(yīng)用的深度學(xué)習(xí)框架,包括TensorFlow Lite、Keras、PyTorch等,使得用戶能夠輕松利用這些框架訓(xùn)練的機器學(xué)習(xí)模型進行開發(fā)。
圖十七
此外,ST Edge AI開發(fā)工具包還展示了與NVIDIA工具包的兼容性,為用戶提供更多選擇和靈活性。同時,該套件也提供了與AWS和微軟Azure等云端服務(wù)的連接可能性,使得用戶能夠輕松將邊緣AI解決方案與云端服務(wù)相結(jié)合,實現(xiàn)更廣泛的數(shù)據(jù)處理和分析。
不僅如此,ST Edge AI開發(fā)工具包還與MATLAB等模擬工具保持兼容,為用戶提供了更強大的模擬和測試能力。這使得用戶能夠在開發(fā)過程中更早地發(fā)現(xiàn)和解決問題,提高開發(fā)效率和質(zhì)量。
圖十九
ST Edge AI解決方案的核心在于其通用的軟件庫和指令列接口,即ST Edge AI核心。這一核心功能使得客戶能夠方便地評估機器學(xué)習(xí)模型,并利用工具將模型編譯為特定目標(biāo)。因此,無論是STM32微控制器、Stellar車用微控制器,還是具備MLC或ISPU等硬件加速器的MEMS傳感器,都可以輕松集成到ST Edge AI解決方案中。
圖二十
值得一提的是,這些工具都是免費的。不僅ST Edge AI套件本身是免費的,而且ST還宣布自去年12月起,Nano AI Studio在任何STM32上都可以無限免費使用。此外,ST還將根據(jù)特殊許可協(xié)議,繼續(xù)為客戶提供其他搭載Arm Cortex-M核心的微控制器的支持。
圖二十一
綜上所述,ST Edge AI開發(fā)工具包為用戶提供了一個全面、高效且靈活的邊緣AI開發(fā)解決方案。無論是初學(xué)者還是有經(jīng)驗的開發(fā)者,都能夠利用這一套件快速構(gòu)建和優(yōu)化邊緣AI應(yīng)用,推動智慧化時代的發(fā)展。
評論