混合人工智慧(AI)——改善邊緣計算

控制工程中文版 發佈 2023-11-13T04:11:20.929433+00:00

本文圖片來源 :Beyond Limits作者 | Ari Kamlani混合人工智慧(AI)是數據驅動機器智能方法的配套技術,可以促進邊緣計算的發展。諸多行業都在開發和部署人工智慧(AI)。它使許多公司能夠利用新的機會,創造新的商業模式並獲得競爭優勢。



作者 | Ari Kamlani


混合人工智慧(AI)是數據驅動機器智能方法的配套技術,可以促進邊緣計算的發展。


諸多行業都在開發和部署人工智慧(AI)。它使許多公司能夠利用新的機會,創造新的商業模式並獲得競爭優勢。在工業、能源、國防、醫療保健和金融行業,AI正在成為企業在各自領域內有效競爭能力的核心差異化價值驅動因素。


以物聯網(IoT)為例。相關預測顯示,到2025年物聯網連接的設備將超過750億台,比2019年增長近三倍。這一數字還在繼續呈現指數級的增長,將所有這些設備與智能功能連接起來,是實現其全部物聯網潛力的最大挑戰之一。


隨著設備和系統的技術能力的不斷成熟,在物理世界中,幾乎所有物體都有連接性和計算能力,不管這些能力是生俱來的還是經改造後獲得的。用戶的期望值也在不斷增長。用戶對體驗和交互的要求更高,希望獲得類似於智慧型手機和筆記本電腦的用戶友好體驗。機器學習用戶體驗MLUX(ML+UX)需要精心設計,以最小的代價獲得積極、有影響力、情境和整體的用戶體驗,以進一步擴大和提升對該技術的採用。


01

邊緣計算系統正在不斷發展


邊緣系統的設計,具有不同且通常有限的計算機處理、存儲和內存、網絡連接和運行等諸多限制。邊緣範式轉移到數據被感知、生成和執行的地方進行本地處理;儘管在某些情況下,它有點類似於雲功能,可以通過邊緣網關進一步擴展,以提供低延遲和高帶寬利用率。


在整個範圍中,硬體系列可以涵蓋從資源受限的超低功耗裸機設備、RTOS微控制器(例如,ARM Cortex-M)到SoC應用微處理器(例如,ARM Cortex-A)配置文件功能。原始設計製造商/原始設備製造商(ODM/OEM)許可的應用程式配置文件目標,通常出現在智慧型手機和平板電腦中,或連接到外部的微控制器、傳感器和驅動器或基帶處理器的應用處理器中。


在此範圍內,先進的專用AI加速器ASIC設備已被設計為處理高性能的AI操作指令和支持最先進的模型(SOTA)。儘管矽的應用落後於AI研究,但它帶來的好處是性能提高,這間接地與最終用戶的體驗聯繫在一起。


在生命周期開始之前,許多SoTA AI模型都需要進一步優化和壓縮,而不會降低目標性能。隨著該領域的發展,將模型部署到嵌入式設備已轉向嵌入式系統範式,即在目標主機上交叉編譯代碼。


用戶可以通過中間格式(MLIR)和Runtime執行環境來編譯和優化處理器目標和設備執行,而不是部署較小的參數化抽象模型,以換取目標性能。這也與提供更低的延遲和改善的用戶體驗有關。


在運營過程中,AI邊緣系統需要具有一定程度的獨立性,儘管具有局限性,但仍能做出高性能的決策,直到它們能夠利用更強大的資源以及來自所連接的雲基礎設施的大量數據和知識。對於互連的設備,這種獨立狀態被稱為緊急模式。


02

使用混合AI改善邊緣計算


使用混合AI(Hybrid AI)是推進邊緣AI的潛在途徑。混合AI是一種將機器學習與符號AI(Symbolic AI)相結合的方法,前者使用統計模型來分析數據,後者基於語義並提供對意義的見解。通過利用每種技術的優勢,可以實現比單獨使用任何一種技術更強大的結果。


混合AI作為數據驅動機器智能方法的配套技術,補充了認知符號AI能力,克服了推理、順序規劃、可操作反饋以及類似人類的可理解闡述和解釋方面的限制。核心關注點是與用戶的協作互動,充當情境決策支持顧問和診斷系統,尤其是在與高風險、不確定性和未知相關的情況下更是如此。例如,NASA JPL為火星探測器著陸開發了混合AI,增加了推理智能功能,以改善在不熟悉和傳統技術難以實現的困難地形下的導航。


利用混合AI,可以通過編碼的人類專家知識和約束、行業指南和最佳實踐以及傳統的支持歷史庫和流式事件信息來豐富系統。這些認知引擎和算法對假設的路徑和場景進行建模,以提出行動方案並制定智能的近實時決策,即使在那些在操作、獲取和訪問質量數據方面被認為不太理想的邊緣環境下也是能完成任務。


考慮連接受限或不穩定的邊緣設備的使用工況,這些設備在惡劣或遠程環境中運行,具有長尾數據分布,數據採集和存儲受到限制。或者,當設備故障,傳感器融合和機動高風險錯誤條件路徑的時間周期內,發生數據衝突時所導致的不理想路徑。這些案例都是傳統大數據和微調方法不太適合的。混合AI可以直接將這些條件,作為推薦行動計劃和用戶反饋迴路的一部分,或利用知識和約束的基礎模型進行校正,間接地促成這些條件。


在IoT和其它在邊緣運行的系統中使用混合AI,為連接、用戶體驗和運營決策帶來了新的潛力。AI未來的願景,包括能在網絡邊緣和更大的生態系統和價值鏈之外,實現傳統機器學習系統無法完成的任務的認知系統:智能和流暢地與人類專家互動,提供清晰可行的解釋,並增強用戶對決策的信任和信心。


關鍵概念:

作為數據驅動機器智能方法的配套技術,混合AI可以改善邊緣計算。

在IoT和其它在邊緣運行的系統中使用混合AI,為連接、用戶體驗和運營決策帶來了新的潛力。


思考一下:

AI和邊緣計算可以為您的應用帶來哪些潛在好處?

關鍵字: