Jetson nanoでLobeから出力したTensorFlow Liteのモデルを動かす

Getting Started With Jetson Nano Developer Kit | NVIDIA DeveloperにしたがってJetson nanoのUbuntuにログインできるようにする。

onnxruntime_gpu を入手してインストールします

# Download pip wheel from location mentioned above
$ wget https://nvidia.box.com/shared/static/49fzcqa1g4oblwxr3ikmuvhuaprqyxb7.whl -O onnxruntime_gpu-1.6.0-cp36-cp36m-linux_aarch64.whl

# Install pip wheel
$ pip3 install onnxruntime_gpu-1.6.0-cp36-cp36m-linux_aarch64.whl

TensorFlow１系をインストール

Lobeが出力するモデルが1.x系用なのでそちらをインストールします。下記のページのインストール方法に従い、TensorFlowをいれるときだけ1.xを指定します。

Installing TensorFlow For Jetson Platform :: NVIDIA Deep Learning Frameworks Documentation

1.Xを指定するコマンド（3. Installing TensorFlowにあります）

$ sudo pip3 install --pre --extra-index-url https://developer.download.nvidia.com/compute/redist/jp/v44 ‘tensorflow<2’

TensorFlow Liteのランタイムを入れる

pip3 install https://dl.google.com/coral/python/tflite_runtime-2.1.0.post1-cp36-cp36m-linux_aarch64.whl

いれてないとこういうエラーが出る

ModuleNotFoundError: No module named 'tflite_runtime'

lobeのモデルを動かす

lobeからTensorFlow Lite形式でエクスポートするとサンプルファイルがあるので、その引数に画像を渡して実行

pip3 install -r requirements.txt #必要なライブラリをインストール
python3 tflite_example.py '../dokin.jpg'  #予測
{'Confidences': [0.009673559106886387, 0.990326464176178, 2.5323764418772043e-08], 'Prediction': 'Dokin-chan'}