引言

毫無疑問，你已經(jīng)讀過或聽說過，由于網(wǎng)絡(luò)邊緣設(shè)備數(shù)量激增，產(chǎn)生了不斷增長的巨量數(shù)據(jù)流，這些設(shè)備包括自動駕駛汽車、物聯(lián)網(wǎng)設(shè)備、消費電子產(chǎn)品，甚至是筆記本電腦和個人電腦。根據(jù)多項估算，截至2025年，運行的物聯(lián)網(wǎng)設(shè)備將達到數(shù)百億個。這些設(shè)備以連續(xù)數(shù)據(jù)流的形式向云端發(fā)送各種形式的數(shù)據(jù)，數(shù)據(jù)速率也千差萬別?？傮w來說，這些設(shè)備將生成大量原始數(shù)據(jù)，且數(shù)據(jù)量隨著時間的推移不斷增加。

安全攝像頭、自動駕駛汽車和PC中的視頻錄像機會生成高碼率、高分辨率的視頻流。物聯(lián)網(wǎng)設(shè)備則生成中等碼率的數(shù)據(jù)，匯聚到大數(shù)據(jù)流中。多種其他類型的物聯(lián)網(wǎng)傳感器（測量溫度、壓力、位置、光照水平等）會生成低碼率數(shù)據(jù)流，但很快此類傳感器的數(shù)量將會達到數(shù)十億。因此，即使是這些低碼率數(shù)據(jù)流也可以在進入云端之前匯聚成更大的、高碼率的數(shù)據(jù)流。

5G無線網(wǎng)絡(luò)和其他高速網(wǎng)絡(luò)技術(shù)的興起，包括微微基站（Picocell）、長距離物聯(lián)網(wǎng)網(wǎng)絡(luò)（如LoRaWAN）以及全球聯(lián)網(wǎng)衛(wèi)星網(wǎng)絡(luò)（如SpaceX不斷擴展的星鏈寬帶網(wǎng)絡(luò)和Swarm Technologies基于衛(wèi)星的物聯(lián)網(wǎng)網(wǎng)絡(luò)），提供了廣泛而快速的云端訪問（注：星鏈于2021年8月收購了Swarm Technologies）。這些通信和網(wǎng)絡(luò)技術(shù)加速了新興的網(wǎng)絡(luò)邊緣計算設(shè)備和應(yīng)用的發(fā)展。

新興的網(wǎng)絡(luò)邊緣設(shè)備和應(yīng)用包括自動駕駛汽車、機器人、自動化生產(chǎn)、遠程監(jiān)控、供應(yīng)鏈和物流系統(tǒng)，以及保障公共和私人安全的視頻監(jiān)控。市場對這些網(wǎng)絡(luò)邊緣系統(tǒng)的需求極速增長，因為它們可以提高效率、降低運營成本并改善用戶體驗。但無論我們建設(shè)多少無線和有線通信基礎(chǔ)設(shè)施，超量數(shù)據(jù)的駭浪都可能壓垮或者堵塞這些通向云端的數(shù)據(jù)管道。

網(wǎng)絡(luò)邊緣本地化處理有助于疏通數(shù)據(jù)管道

這些趨勢表明如今需要盡量在網(wǎng)絡(luò)邊緣數(shù)據(jù)產(chǎn)生的地方進行更多的處理，減少傳輸?shù)皆贫说臄?shù)據(jù)量。物聯(lián)網(wǎng)和其他網(wǎng)絡(luò)連接設(shè)備的爆發(fā)式增長是推動新的網(wǎng)絡(luò)邊緣設(shè)備開發(fā)的主要動力，這也進一步刺激了新應(yīng)用的開發(fā)，從而將原始數(shù)據(jù)轉(zhuǎn)換為有用的、可操作的信息，支持快速決策，實時應(yīng)對不斷變化的情形。

在網(wǎng)絡(luò)邊緣計算發(fā)展的早期階段，公司主要關(guān)注將數(shù)據(jù)遠距離傳輸?shù)綌?shù)據(jù)中心的成本問題。最初，網(wǎng)絡(luò)邊緣應(yīng)用的一大特征是需要訪問存儲在云端和連接到云的其他計算機中的數(shù)據(jù)。這些早期應(yīng)用通常不是實時應(yīng)用；數(shù)百毫秒甚至數(shù)秒的響應(yīng)時間都是可以接受的。然而，物聯(lián)網(wǎng)設(shè)備的發(fā)展以及對網(wǎng)絡(luò)邊緣實時處理、分析和響應(yīng)的需求不斷增長，推動了網(wǎng)絡(luò)邊緣技術(shù)強有力的發(fā)展，同時也伴隨著更大的設(shè)計挑戰(zhàn)。

網(wǎng)絡(luò)邊緣處理使得計算和數(shù)據(jù)存儲越來越靠近收集數(shù)據(jù)的設(shè)備端，而不是在數(shù)千里之外的數(shù)據(jù)中心進行分析和決策。網(wǎng)絡(luò)邊緣的實時應(yīng)用通常不容許高延遲，因此處理、分析和決策必須轉(zhuǎn)移到設(shè)備本身。這些網(wǎng)絡(luò)邊緣設(shè)備包括自動駕駛汽車、物聯(lián)網(wǎng)傳感器、安全攝像頭、智能手機、筆記本電腦和個人電腦等。因此網(wǎng)絡(luò)邊緣計算的潛力巨大。

數(shù)據(jù)重壓之下，云端無法包攬一切

智能手機和物聯(lián)網(wǎng)設(shè)備的指數(shù)級增長推動了網(wǎng)絡(luò)邊緣計算的發(fā)展，這些設(shè)備無處不在，必須連接到互聯(lián)網(wǎng)才能向云端發(fā)送信息或從云端接收信息。一些物聯(lián)網(wǎng)設(shè)備（例如攝像機）在運行過程中會生成大量數(shù)據(jù)。

其他物聯(lián)網(wǎng)設(shè)備，如溫度傳感器，會生成少量數(shù)據(jù)，但由于這樣的傳感器數(shù)量可達數(shù)十億，為云端處理帶來了極大的負擔(dān)。因此，基于網(wǎng)絡(luò)邊緣的處理十分必要，不僅可以降低云端的網(wǎng)絡(luò)通信成本和云存儲成本，還能避免云端數(shù)據(jù)通道過載。

網(wǎng)絡(luò)邊緣產(chǎn)品和應(yīng)用的開發(fā)人員越來越多地采用人工智能和機器學(xué)習(xí)（AI/ML）算法來匹配和識別復(fù)雜的模式，以幫助分析數(shù)據(jù)并據(jù)此做出決策。事實上，AI/ML技術(shù)的使用增長極其迅猛。

如今AI/ML算法被視為高效處理原始數(shù)據(jù)的必要手段，因為它們可以識別出傳統(tǒng)的算法程序難以解析和識別的復(fù)雜、多維度的數(shù)據(jù)模式。一些特定的AI/ML應(yīng)用包括檢測、識別、辨認和計數(shù)人員或物體；資產(chǎn)和存貨追蹤、環(huán)境感知、聲音和語音檢測和識別、系統(tǒng)健康監(jiān)測以及系統(tǒng)維護調(diào)度等。

圖1 網(wǎng)絡(luò)邊緣計算的趨勢（圖片來源：萊迪思）

許多可以利用AI/ML功能的網(wǎng)絡(luò)邊緣應(yīng)用需要在極具嚴(yán)苛的功耗限制下運行。這些廣泛分布的設(shè)備通常依靠電池供電。此類應(yīng)用在各種網(wǎng)絡(luò)邊緣環(huán)境中比比皆是，包括工廠、農(nóng)場、辦公樓、零售店、醫(yī)院、倉庫、街道和住宅。隨著它們數(shù)量的增加，這些設(shè)備需要在僅充一次電或者僅依靠收集和存儲能量的情況下運行較長時間，甚至可能是幾個月或幾年。

因此，許多設(shè)備需要在大部分時間里處于睡眠或休眠狀態(tài)，在設(shè)備處于非活動狀態(tài)時大部分電路應(yīng)處于低功耗待機模式。然后激活事件會在需要時啟動設(shè)備。在此類應(yīng)用中，以超低功耗運行的基礎(chǔ)電路系統(tǒng)必須保持待命，等待激活事件，然后根據(jù)需要為設(shè)備的其余部分供電。

FPGA以低功耗實現(xiàn)AL/ML

對低運行功耗和AI/ML算法實現(xiàn)的需求似乎與低功耗網(wǎng)絡(luò)邊緣設(shè)備設(shè)計的要求相互沖突。然而，這兩種復(fù)雜的設(shè)計要求其實并不矛盾。萊迪思最新的FPGA——低功耗、小尺寸、高性能的CertusPro-NX系列器件——專為滿足低功耗網(wǎng)絡(luò)邊緣設(shè)備的諸多設(shè)計要求而定制。這些FPGA可以支持多個傳感器、顯示器，支持高分辨率視頻、網(wǎng)絡(luò)連接和網(wǎng)絡(luò)邊緣AI/ML處理。

與此同時，萊迪思最新發(fā)布的sensAI解決方案集合4.1版本提供了即用的AI/ML工具、IP核、硬件平臺、參考設(shè)計和演示以及定制化設(shè)計服務(wù)，有助于設(shè)計團隊開發(fā)新的網(wǎng)絡(luò)邊緣設(shè)備，并將其快速推向市場。最新版本的sensAI支持CertusPro-NX FPGA。

萊迪思sensAI解決方案集合可加速端到端的AI/ML模型訓(xùn)練、驗證和編譯。萊迪思在2021年初發(fā)布的sensAI 4.0中新增了sensAI Studio設(shè)計環(huán)境，這是一種基于圖形用戶界面（GUI）的工具，可幫助開發(fā)人員快速構(gòu)建機器學(xué)習(xí)應(yīng)用。在使用萊迪思sensAI 4.1中的工具設(shè)置網(wǎng)絡(luò)邊緣計算設(shè)計，并且采用萊迪思iCE40 UltraPlus、CrossLink-NX、ECP5和CertusPro-NX FPGA時，可以在超低功耗下實現(xiàn)實時的AI/ML功能——功耗低至1mW到1W。

圖2 萊迪思sensAI Studio設(shè)計環(huán)境加速端到端的AI/ML模型訓(xùn)練、驗證和編譯（圖片來源：萊迪思）

隨著sensAI 4.1支持萊迪思CertusPro-NX FPGA系列產(chǎn)品，sensAI的性能也有了較大提升，除了已有的對象檢測和追蹤應(yīng)用之外，還新增了對多個對象實時分類等應(yīng)用。sensAI 4.1解決方案集合包括更新的神經(jīng)網(wǎng)絡(luò)編譯器，還兼容其他廣泛使用的機器學(xué)習(xí)平臺，包括最新版本的Caffe、Keras、TensorFlow和TensorFlow Lite。

萊迪思sensAI 4.1解決方案集合中的IP核包括三種類型的卷積神經(jīng)網(wǎng)絡(luò)（CNN）加速器——CNN、CNN Plus和CNN Compact——以及一個CNN協(xié)處理器引擎。CNN IP核能讓開發(fā)人員使用其他人發(fā)布的廣泛使用的各類CNN，例如Mobilenet v1/v2、Resent、SSD和VGG，或者根據(jù)需要自定義CNN模型。sensAI 4.1 CNN加速器利用萊迪思FPGA的并行處理能力、分布式存儲器和DSP資源，極大簡化了超低功耗AI設(shè)計的實現(xiàn)。加速器核利用FPGA的可編程邏輯來實現(xiàn)低功耗神經(jīng)網(wǎng)絡(luò)，包括極其高效的二值神經(jīng)網(wǎng)絡(luò)（BNN），能夠以毫瓦級超低功耗實現(xiàn)CNN。

圖3 萊迪思sensAI解決方案集合可開發(fā)基于萊迪思FPGA的AI/ML設(shè)備（圖片來源：萊迪思）

萊迪思sensAI 4.1參考設(shè)計

萊迪思FPGA提供可編程I/O，經(jīng)配置可支持傳感器接口常用的多種電氣接口標(biāo)準(zhǔn)。公司還提供許多硬核和軟核IP模塊以支持不同的傳感器通信協(xié)議。由于FPGA長期以來在傳感器融合方面具有顯著優(yōu)勢，因此萊迪思sensAI 4.1的設(shè)計旨在簡化網(wǎng)絡(luò)邊緣設(shè)備中基于多個傳感器的AI/ML推理功能的開發(fā)，實現(xiàn)智能的傳感器融合。sensAI 4.1解決方案集合包括許多參考設(shè)計示例，演示了多種智能傳感器融合的應(yīng)用案例，它們可以同時運行，實現(xiàn)深入的情景感知。這些參考設(shè)計包括：

●   手勢檢測

該參考設(shè)計使用IR圖像傳感器，實現(xiàn)了一個基于AI的低功耗手勢檢測系統(tǒng)。該參考設(shè)計提供了一個訓(xùn)練數(shù)據(jù)集、可使用常用神經(jīng)網(wǎng)絡(luò)訓(xùn)練工具訓(xùn)練的腳本以及一個神經(jīng)網(wǎng)絡(luò)模型，方便用戶進行修改。

●   關(guān)鍵詞檢測

該參考設(shè)計使用數(shù)字MEMS麥克風(fēng)持續(xù)檢測關(guān)鍵詞話語。設(shè)計人員可以使用深度學(xué)習(xí)框架（例如Caffe、Tensorflow或Keras）更新提供的訓(xùn)練數(shù)據(jù)集，為系統(tǒng)添加喚醒詞功能。參考設(shè)計包括一個訓(xùn)練數(shù)據(jù)集、可使用常用神經(jīng)網(wǎng)絡(luò)訓(xùn)練工具訓(xùn)練的腳本以及一個神經(jīng)網(wǎng)絡(luò)模型，方便用戶進行修改。

●   人臉檢測

該參考設(shè)計使用圖像傳感器實現(xiàn)基于CNN的人臉識別，并且可以通過修改訓(xùn)練數(shù)據(jù)庫來識別其他類型的目標(biāo)。

●   人員偵測

該參考設(shè)計使用CMOS圖像傳感器持續(xù)檢測人員的存在?；诖嗽O(shè)計的AI系統(tǒng)可以使用深度學(xué)習(xí)框架（例如Caffe或Tensorflow）更新所提供的訓(xùn)練模型來檢測和定位任何感興趣的目標(biāo)。該參考設(shè)計包括一個神經(jīng)網(wǎng)絡(luò)模型、一個訓(xùn)練數(shù)據(jù)集和可使用常用訓(xùn)練工具訓(xùn)練的腳本。

●   目標(biāo)檢測、分類、追蹤和計數(shù)

該參考設(shè)計提供了目標(biāo)檢測、分類、追蹤和計數(shù)的示例，擁有完整的設(shè)計，包括用于萊迪思開發(fā)板的FPGA RTL、神經(jīng)網(wǎng)絡(luò)模型、示例訓(xùn)練數(shù)據(jù)集以及用于重新創(chuàng)建和更新設(shè)計的腳本。

可以使用AI的常見和潛在的網(wǎng)絡(luò)邊緣應(yīng)用

使用AI/ML算法提高眾多網(wǎng)絡(luò)邊緣設(shè)備（例如自主機器人、環(huán)境控制和視頻安全攝像頭）的性能具有明顯優(yōu)勢，而其他類型的網(wǎng)絡(luò)邊緣設(shè)備也可以從中受益，例如PC和筆記本電腦。萊迪思正與合作伙伴和客戶合作，利用多模式、智能傳感器融合和AI/ML技術(shù)，不斷提升PC/筆記本電腦用戶的體驗，并顯著降低筆記本電腦的運行功耗，在某些應(yīng)用中，電池使用時間最多提高了28%。

哪些設(shè)備特性能發(fā)揮出潛在的價值呢？

PC和筆記本電腦在24小時內(nèi)的使用情況差異很大，一般在白天工作時間集中使用。然而，即使是在工作時間，它們也會有休息狀態(tài)。人們會偶爾休息，中午也會用餐，這些時間他們通常會讓計算機保持運行狀態(tài)，確保他們打開的各種應(yīng)用不被關(guān)閉。

將AI/ML分析和決策與計算機現(xiàn)有的傳感器（攝像頭和麥克風(fēng)）相結(jié)合，實現(xiàn)智能傳感器融合，能讓PC或筆記本電腦感知周圍環(huán)境，從而決定何時關(guān)閉顯示器和CPU，以及何時應(yīng)該給它們重新供電。

存在檢測最簡單的用途是在周圍無人時關(guān)閉計算機。當(dāng)用戶長時間遠離屏幕時，注意力追蹤功能可以調(diào)暗計算機屏幕并激活低功耗模式。充當(dāng)智能傳感器中心的低功耗、小尺寸FPGA可以接收來自計算機傳感器的輸入，然后根據(jù)情況決定為哪些組件供電。

解決隱私和安全問題

同樣，這些功能也可以增強計算機的隱私和安全性。計算機的內(nèi)置會議攝像頭可用于監(jiān)控用戶身后的背景，檢測是否有人從用戶的肩膀后面窺視。如果計算機被配置為保護隱私，當(dāng)授權(quán)用戶背后有人疑似在偷窺計算機屏幕時，它可以彈出警告提醒用戶甚至自動調(diào)暗屏幕。需要注意的是，使用這些解決方案，所有推理數(shù)據(jù)都保存在FPGA本地。僅將元數(shù)據(jù)傳遞給SoC，這進一步增強了隱私并提高了安全性。

優(yōu)化用戶體驗

AI/ML功能還可以增強計算機用戶的總體體驗。例如，基于AI/ML的面部取景功能可以利用內(nèi)置視頻會議攝像頭的較高分辨率來裁剪和居中用戶的頭像，為視頻會議提供較好的畫面。與會者還可以在會議期間移動的同時，他們的圖像依然保持居中。同樣，手勢識別可以為筆記本電腦或PC或任何其他支持視頻的物聯(lián)網(wǎng)設(shè)備添加非接觸式操作功能。

健康方面的益處

許多公司現(xiàn)在明確表示要保障員工的健康，基于AI/ML的感知功能可以通過彈出提醒和其他措施幫助避免重復(fù)性壓力損傷，并利用計算機的視頻傳感器確保員工實際上采納了給出的休息建議。

AI/ML應(yīng)用還可用于檢測用戶的姿勢，這可能是造成重復(fù)性壓力損傷的另一個因素。這些利用傳感器主動反饋的特性可以用來開發(fā)健康應(yīng)用，這明顯優(yōu)于目前企業(yè)中所使用的簡單的定時提醒，能夠有效應(yīng)對壓力相關(guān)的工傷。

所有這些通過AI/ML實現(xiàn)的功能都可以幫助供應(yīng)商打造出對企業(yè)買家更具吸引力的PC和筆記本電腦，并且所有這些功能都可以通過sensAI 4.1解決方案集合和萊迪思低功耗FPGA的特性來實現(xiàn)。

這種FPGA的使用方式超越了長期以來FPGA開發(fā)的標(biāo)志性功能——傳感器連接和融合，并且基于成熟的AI/ML算法，新增了傳感器信號分析和決策制定功能。AI/ML的加入使得FPGA成為低功耗系統(tǒng)控制器，可管理系統(tǒng)功能、增強用戶體驗并通過降低整體系統(tǒng)運行功耗大幅延長電池壽命。

結(jié)論：數(shù)十億網(wǎng)絡(luò)邊緣設(shè)備的龐大市場有待開發(fā)

憑借其多個低功耗FPGA系列產(chǎn)品和支持這些產(chǎn)品系列的sensAI 4.1解決方案集合，萊迪思致力于為數(shù)十億計的網(wǎng)絡(luò)邊緣設(shè)備帶來AI/ML 技術(shù)。因此，網(wǎng)絡(luò)邊緣應(yīng)用是一個極具潛力的目標(biāo)市場。

根據(jù)多方面的估算，全球廣泛的地域需要數(shù)百億個網(wǎng)絡(luò)邊緣設(shè)備來滿足大量網(wǎng)絡(luò)邊緣市場的需求，這對于FPGA 業(yè)務(wù)來說非常具有吸引力——當(dāng)然這種規(guī)模對于任何行業(yè)來說都是如此。萊迪思發(fā)布sensAI 4.1解決方案集合及其低功耗、小尺寸FPGA系列，則是直接瞄準(zhǔn)了網(wǎng)絡(luò)邊緣應(yīng)用和市場。萊迪思的sensAI 4.1解決方案集合是一種網(wǎng)絡(luò)邊緣應(yīng)用的創(chuàng)新開發(fā)工具，系統(tǒng)開發(fā)人員可以借此為各種市場開發(fā)靈活、針對特定應(yīng)用、基于FPGA的AI/ML推理解決方案。