Open4
LiteRT を Unityで動かせるか検討
Koki Ibukuro
TensorFlow LiteがLiteRTという名前になった。リポジトリもTensorFlowのサブディレクトリから個別のリポジトリへと別れて開発が進んでいる。
現状の公開版のAPIはTensorFlow Liteのそのままだが、Next とよばれるAPIはシンプルに使いやすく見える。
TensorFlow LiteをUnityで動かすことを5年ほどやっているが、LiteRTへ移行するか検討してみてもいいかもしれない。
Koki IbukuroLiteRT-LM
LLM向けのpreprocessingを行うnative libraryも開発されている。
MediaPipe Taskライブラリも開発されているが、使い分けはここに書いてある
今度どっちに注力するのか知りたいな〜。
Koki IbukuroTensorFlow Liteで画像が絡む処理をやろうとすると、モデル本体の処理よりも、GPU <-> CPU間のデータ転送コストのほうがボトルネックになりがちだったので、このようにシンプルにGPU Bufferを直接割当できるなら、それだけで移行の価値はあるかもしれない…。