聯詠NT98336平台使用PCIE介面連接Hailo-8 AI處理器

一. 聯詠NT98336簡介

    NOVATEK於2021年主推的NT98336晶片具有更強大的影像處理能力，核心是ARM Cortex CA53 Quad cores@1.2GHz。與海思同級的產品比較，NT98336效率更好同時影像處理能力更強(1080@300fps)且提供高效率AI運算能力2.25T(TOPS)。

二. Hailo-8簡介

    Hailo-8 邊緣AI處理器可提供每秒26T(TOPS)的運算能力，遠超過了其他所有邊緣處理器。使用神經網路核心特性的架構，Hailo-8神經晶片可提供更高效且更有效在前端設備運行AI深度學習應用，同時顯著降低成本。利用Hailo-8強大的資料流程編譯器及其對標準AI架構的支持，用戶可輕鬆地將神經網路模型導入到Hailo-8，並迅速向市場推出高性能的AI產品。

三. 聯詠NT98336環境交叉編譯Hailo-8

1. 編譯hailo_pci.ko   

           i. 切換hailo pcie驅動目錄

               cd $(Hailort)/Linux/Installer/platform/drivers/linux/pcie

           ii. 修改Makefile，將$(KERNEL_DIR)指向聯詠NT98336 SDK核心目錄
               

          iii. 執行make clean;make all完成之後可在同目錄得到ko
               
               

       2. 編譯hailort_sources

              i. 切換cmake交叉編譯目錄。

                 cd $(Hailort)/Linux/Installer/platform/hailort_sources/hailort/libhailort/cmake/toolchains

             ii. 新增aarch64-ca53.cmake，內容如下圖所示。
                
           
            iii. 切換hailort_sources目錄。

                 cd $(Hailort)/Linux/Installer/platform/hailort_sources

            iv. 使用cmake編譯。

                cmake -H. -Bbuild -DCMAKE_BUILD_TYPE=Release -DHAILO_SKIP_PYBIND=1 \

                -DHAILO_SKIP_UT=1 -DHAILO_BUILD_EXAMPLES=0 -DHAILO_TOOLCHAIN=linux.aarch64-ca53 && cmake --build build
               

          v. Hailo-8執行檔案和函示庫目錄位置。
               

四. 聯詠NT98336平台使用PCIE介面連接Hailo-8

1. NT98336 PCIE介面連接Hailo-8

          
   
   2.  聯詠NT98336 PCIE介面連接設備列表
         
   
   3. 載入ko驅動模組
        
   
  4. 聯詠NT98336平台操作Hailo-8
       i. 讀取Hailo-8版本
          
     
      ii. Hailo-8載入模型(ssd_mobilenet/yolov4_tiny/yolov5m)