MediaTek的NeuroPilot平台是一套集成軟體工具和API,目的在於實現邊緣AI的高效能本地處理,而不是在伺服器上遠端執行。借助NeuroPilot,夥伴們可以在邊緣設備上以極高的效率開發和部署 AI 應用。平台支持主流AI框架像是TensorFlow(lite)和PyTorch,並提供Android NNAPI擴展,顯著地提升了MediaTek裝置上的AI應用性能。Neuron SDK是其中的關鍵組件,它能將定制模型轉換為MediaTek專有的二進制格式,大幅降低延遲和內存佔用,這使得各種人工智慧應用程式運行得更快,同時也保持了資料的隱私性。
硬件支援方面,NeuroPilot涵蓋CPU、GPU、VPU和MDLA,每種設備針對不同應用場景優化,以達到最佳性能和能效。例如,MediaTek Genio1200 處理器搭載高效能AI處理單元和多種硬件加速器,適用於智慧家庭、物聯網等領域,提供卓越的運算能力。
總體而言,NeuroPilot通過支持廣泛的TFLite運算操作和多種數據類型,使AI應用在MediaTek裝置上能夠充分利用硬件資源,實現高效能、低功耗的AI解決方案。
小弟在此歸納出幾項重點特別為夥伴們說明下。
1. NeuroPilot生態系統
NeuroPilot是MediaTek開發的一個完整AI生態系統,專注於邊緣AI的應用。邊緣AI是指在本地裝置上進行AI計算,而非依賴雲端伺服器,這可以顯著降低延遲並提升安全性。NeuroPilot集成了各種軟體工具和API,幫助開發者在MediaTek平台上實現高效能的AI解決方案。其特點包括對主流AI框架的支持,以及強大的硬件加速器,這些都能夠大幅提高AI運算的效能。通過這些工具,開發者可以更輕鬆地將AI應用部署在智慧手機、智慧家庭設備等領域,實現更智能的用戶體驗。
2.支持AI框架
NeuroPilot支持多種主流的AI框架,如TensorFlow和PyTorch,這使得開發者可以使用熟悉的工具和工作流程來開發AI應用。此外,NeuroPilot還提供了Android NNAPI的擴展,這可以進一步提升在Android設備上運行的AI應用的效能。這種多框架支持意味著開發者不需要為了使用NeuroPilot而學習新的開發工具,這極大地降低了學習成本,並加速了AI應用的開發過程。通過這些框架,開發者可以利用NeuroPilot的強大計算能力來開發各種創新應用,從而提升產品的競爭力。
3. Neuron SDK
Neuron SDK是NeuroPilot生態系統中的關鍵開發套件。這個軟體開發工具包能夠將AI模型轉換為MediaTek設備專有的二進位文件,從而最大化地利用硬件資源,降低延遲和內存佔用。這意味著AI應用可以更快速、更高效地運行,特別是在需要實時處理的場景中,如影像識別和語音識別。Neuron SDK還支持裸機C/C++編程,這使得開發者可以針對特定硬件進行深度優化,進一步提升效能。這些特性使Neuron SDK成為開發高性能AI應用的理想工具。
![](https://edit.wpgdadawant.com/uploads/news_file/blog/2024/15240/tinymce/neuro_sdk2.png)
4. 硬件支援
NeuroPilot平台的硬件支援涵蓋了多種計算單元,包括CPU、GPU、VPU和MDLA。這些硬件單元針對不同的AI應用場景進行了優化。例如,CPU適合處理一般計算任務,GPU擅長並行計算,VPU則專門處理影像和視覺相關的任務,而MDLA則是針對深度學習模型的運行進行了特殊優化。通過這種多樣化的硬件支援,NeuroPilot可以提供高效能、低功耗的AI解決方案,滿足不同應用的需求,從而在各種裝置上實現更智能的功能。
5. Genio IoT platform
Genio IoT platform是MediaTek推出的一系列高性能處理器,專為智能工廠、智能辦公室和智慧家庭等領域設計。這款處理器配備了強大的AI處理單元和多種硬件加速器,可以高效地處理各種AI任務。Genio IoT platform採用NeuroPilot平台的技術,能夠在本地進行複雜的AI計算,從而提供即時的響應和更優的用戶體驗。例如,在門禁系統中,Genio IoT platform可以提升影像識別的速度和準確性,在智慧家庭設備中,則可以實現更智能的語音控制和自動化功能。
6. 支持運算操作
參考來源