問：依您看，邊緣AI將給某類工業(yè)應(yīng)用帶來哪些新變化？

答：邊緣AI將在未來幾年發(fā)生巨大變化。邊緣設(shè)備中的神經(jīng)網(wǎng)絡(luò)加速能力以指數(shù)級的速度向前發(fā)展，意味著完全在設(shè)備上完成處理只是時間問題。

例如，自動化技術(shù)、機器人和傳感技術(shù)的進步都會體現(xiàn)在我們身邊的各種機器上，這將意味著工業(yè)安全的真正改善。由人工智能物聯(lián)網(wǎng)（AIoT）驅(qū)動的智能機器可以檢查出當(dāng)機械臂在其運動范圍內(nèi)快速擺動時沒有人處于其運動路徑上，還可以檢查過程和材料中的缺陷，這意味著偏差會越來越小，質(zhì)量會進一步提高。

自動化程度的提高帶來的關(guān)鍵機會是可以提高過程智能，從而使設(shè)備不僅可以成為數(shù)據(jù)驅(qū)動的設(shè)備，而且具有分享知識的能力，這一過程稱為聯(lián)合學(xué)習(xí)或遷移學(xué)習(xí)。這將提高生產(chǎn)力、可靠性和質(zhì)量，降低成本，并增加產(chǎn)量。

Imagination Technologies公司 AI資深產(chǎn)品總監(jiān) Andrew Grant

問：其技術(shù)挑戰(zhàn)是什么？

答：上文提及的方案很快就會在您身邊的機器上有所體現(xiàn)，目前還有一些技術(shù)挑戰(zhàn)正待解決。例如，現(xiàn)在傳感器數(shù)據(jù)會被匯總并反饋至云端以進行決策，這會增加延遲，產(chǎn)生連接和數(shù)據(jù)中心方面的成本。然而，我們越來越多地可以在嵌入式邊緣設(shè)備上進行神經(jīng)網(wǎng)絡(luò)推理，使邊緣設(shè)備可以有效地做出自我決策，同時只需將重要信息傳達給中央控制端。隨著這些設(shè)備的推出，我們將看到顯著的改善，例如減少延遲、降低功耗，以及無需去“呼叫總部”。

在某些情況下，所面臨的挑戰(zhàn)是成本問題，因為工業(yè)物聯(lián)網(wǎng)相當(dāng)碎片化，某個特定的應(yīng)用場景可能僅有小批量的需求，這意味著系統(tǒng)構(gòu)建者和SoC設(shè)計人員必須設(shè)計一個擁有廣泛用途的基本規(guī)范，從而將眾多小批量應(yīng)用匯總成大批量。好消息是，神經(jīng)網(wǎng)絡(luò)加速器的進步意味著可以在比針頭或句尾的句號還小的芯片中添加支持這些應(yīng)用的功能。這也意味著“智能”可以被添加到嵌入式設(shè)備中，使這些設(shè)備可以運行各種各樣的神經(jīng)網(wǎng)絡(luò)模型和算法，進而憑借足夠的靈活性去應(yīng)對多種應(yīng)用場景。

問：貴公司是如何解決這些難點的？有哪些創(chuàng)新性的解決方案推薦？

答：在Imagination Technologies，我們一直跟隨著客戶的步伐，并希望通過我們的研發(fā)能力來預(yù)見到這些問題。因此，我們可以憑借自己的神經(jīng)網(wǎng)絡(luò)加速器（NNA）為邊緣AI提供全面的計算解決方案，相比其他方法，NNA可以指數(shù)倍的速度運行神經(jīng)網(wǎng)絡(luò)層，同時具有運行自定義層所需的靈活性。有了神經(jīng)網(wǎng)絡(luò)加速功能，意味著網(wǎng)絡(luò)可以在設(shè)備上運行，從而支持在邊緣進行數(shù)據(jù)驅(qū)動的決策。我們還可以提供豐富的IP內(nèi)核設(shè)計和各種性能配置，以滿足市場上所有領(lǐng)域的需求，我們支持非常小的尺寸，也支持非常強大的功能和卓越的性能，同時可以做到硅成本最低，這是因為Imagination的一整套技術(shù)源于長久以來在智能手機等移動設(shè)備上的設(shè)計積累，在這些設(shè)備中，Imagination提供的高效的性能、低功耗（對于電池供電或通過能量采集供電的設(shè)備尤其重要）和小的硅面積等特性意味著可以降低成本同時提高效用。