CCレベル3.5以上のCUDA世代でないとAmatsukazeでのCUDA支援は動かないよ
具体的にはGTX750Tiと9xxが下限でこれよりも古い世代のはハードエンコも無理
780や760はCC3.0なので転ける
nvenc使うだけなら大丈夫でしょと思うけど、エンコーダーにデータが渡る段階で
CUDAにも負荷がかかっているので駄目