飛象網訊(魏德齡/文)心智對于人類來說缺一不可,前者負責運轉,后者實現思考。如今,人類所使用的每一部設備對于“芯智”的要求也變得至關重要,通過“芯”來實現功能的流暢運行,通過“智”來具有人工智能和機器學習能力,兩者正在變得缺一不可。
“軟件服務非常重要,恩智浦除了在SoC上投入很多資源,同時也投入了很大的團隊來開發一些工具,從而幫助實現產品研發。”恩智浦大中華區工業與物聯網市場高級總監金宇杰在恩智浦i.MX應用處理器媒體溝通會的一開場就對外強調了恩智浦除了能為物聯網設備提供芯片,也同樣提供軟件支持來實現如人工智能這樣的技術,進而解決邊緣計算時代下眾多設備的剛需,即“芯智”需健全。
“芯智”需健全的邊緣計算時代
需要“芯智”健全的原因就在于,海量增長的智能互聯設備被用于不同類型的崗位中,比如在日常生活中完成用戶家中的水表數據抄寫、根據不同風味調制一杯咖啡,或是在家居門鎖、公司門禁中完成人臉識別,甚至在工業生產線上完成零件的辨別,或是對最終產品進行質檢。設備需要足夠的運算及圖形處理能力,也同樣需要通過人工智能來實現對圖像的辨別。
恩智浦在本月宣布EdgeVerse產品系列新增了跨界應用處理器,包括i.MX 8ULP、經Microsoft Azure Sphere認證的i.MX 8ULP-CS(云安全)系列和新一代高性能智能應用處理器i.MX 9系列,就一如既往的實現了“芯智”健全。
在i.MX 8ULP和i.MX 8ULP-CS系列中,Energy Flex架構將異構域處理、設計技巧和28nm FD-SOI工藝技術相結合,能源效率比前代產品提高了75%。8ULP能夠對一些手持和穿戴便攜設備提供支持,并擁有強大的3D、2D圖像性能。i.MX 9系列同樣采用Energy Flex架構,并擁有更高性能。
值得注意的是,i.MX 9系列中還集成了NPU,用于加速機器學習應用,標志著恩智浦Arm Ethos U-65 microNPU的首次實現,這使得在廣泛的嵌入式設備中構建高效的低成本人工智能解決方案成為可能;i.MX 8ULP系列中也通過融入DSP大大提升語音處理能力,讓設備一方面可以在低耗能的狀態下隨時被喚醒,還能具備機器學習能力的語音交互功能。
對于Arm Ethos U-65 microNPU在恩智浦處理器上的集成,Arm機器學習部門的營銷副總裁Dennis Laudick表示:“人工智能和機器學習在工業和物聯網應用領域掀起了一波浪潮。Ethos-U65將推動新一波的邊緣人工智能浪潮,為恩智浦客戶提供安全、可靠、智能的器件上智能。”
不過,盡管市場上對于AI的需求已經顯而易見,但讓設備擁有AI功能對于不少公司來說卻有些高不可攀,恩智浦則希望通過軟件服務來解決這一問題。
讓AI不再高不可攀
據 TIRIAS Research 預測,到2025年,98%的邊緣設備將使用某種形式的機器學習/人工智能。 到2025年,預計將有180億至250億部設備包含機器學習功能,盡管它們可能并沒有專用的機器學習加速器。
“我們與客戶交流的過程中發現他們的痛點之一是在不同的物聯網環境里,對于AI和ML如何落地大家的認知不一樣,使用時對一些算法的了解也不夠。”恩智浦邊緣處理事業部軟件研發總監翁鐵成透露了目前很多客戶在讓設備實現AI能力過程中的痛點。
面對這種現實情況,恩智浦一直以來同樣持續投入了眾多資源的軟件服務就起到重要的作用,客戶可以通過恩智浦提供的一套工具集eIQ Toolkit,將AI賦能硬件的過程實現明顯簡化。整個過程中,客戶只需要提供數據,恩智浦就能提供多種模型選項進行選擇,最終就能自動化訓練。訓練完成后即可產生針對恩智浦的MCU或者是MPU的最適用的訓練模型,通過工具下載至SoC上就能滿足要求。
此外,如果一些客戶已經擁有了一些模型,還可以使用BYOM工具,就能訓練出針對恩智浦芯片和平臺更優的推理模型。
另在2020年10月恩智浦還與Au-Zone Technologies建立了獨家戰略合作關系。雙方的合作除了讓eIQ-DeepViewML工具套件擁有直觀的GUI和工作流程外,還能提供針對特定目標的圖形級別分析功能,讓開發人員能夠在運行時深入了解運行情況,以便優化神經網絡模型架構、系統參數和運行時性能。 通過增加Au-Zone的DeepView運行時推理引擎作為恩智浦eIQ中開源推理技術的補充,用戶將能夠非常輕松地在恩智浦器件上快速部署和評估機器學習工作負載和性能。這種運行時推理引擎的關鍵特性是為每種SoC架構優化系統存儲器使用和數據移動。
可以通過類似方式受益的還有恩智浦的跨界處理器產品,讓MCU同樣可以具備不俗的AI能力。據恩智浦邊緣處理事業部系統工程總監王朋朋介紹,MCU與高端處理器的訓練流程基本是一致的,僅需采用更適合MCU的模型或框架,如Tensorflow Lite Micro,同樣可以在PC端做數據訓練、建模、轉換與量化降解,再在MCU做數據輸入和模型運算,最終賦予設備量身定制的AI能力。
有AI的邊緣能做很多事
通過賦予AI能力,讓不同類型的設備,可以通過量身定制的“芯智”能力在不同物聯網崗位發揮作用,甚至激發出更多用例可能。
恩智浦的工程師就已經展示出了眾多具備AI能力的MCU的示例,例如可以做特定的聲音識別,來辨別鳥類、背景環境音、玻璃破碎等不同類型的聲音;還能做到物體分類識別,可以識別不同的物品或動物;通過手勢識別可以玩猜拳游戲;并且還能完成紅細胞檢測,來辨別患者是否得了瘧疾。
在已經商用落地的方案中,MCU可以輕松駕馭語音喚醒、語音口令檢測這類在智能音箱上的應用;還能實現機械水表的自動抄表工作;或應用于咖啡機中,通過識別不同的咖啡膠囊,來進行不同風格的沖調;人臉識別的能力也能應用在智能門鎖中。
另外,MPU配合工業軟件開發套件,還可以應用于各類工業領域中,例如恩智浦提供的工業協議里對EtherCAT、CAN、Modbus等Over TSN的支持,讓具備辨識功能的機械手臂落地成為可能。恩智浦還可以提供針對邊云互聯的API和接口,利用恩智浦的工具集更容易實現邊云互聯。
在不同類型的產品上,通過性能、能耗和精度上的平衡,配合量身定制的AI能力,大到汽車,小到手勢識別,恩智浦均可通過不同的組合來滿足企業的要求,“芯智”健全的i.MX應用處理器的生態正在越來越完善,充滿著無限可能。