日経Linux 2020/1月号に、
米田聡の記事「AI で鳩を自動認識、ラズパイ4 で3倍速」が載っている

TensorFlow Lite を使う、Google のEdge TPU の2製品、
Coral USB Accelerator, Coral Dev Board

CUDA なら、CPU の1/50 ぐらいの時間になる

ここは、C# のスレなので、以降は他のスレで議論してください！