ゲーム等のデスクトップ録画ならNVENCで十分キレイなのは確か。
SWエンコと違うのはサイズだけで、映像を普通に見る分には微々たる差。
当時のCUDAエンコはH.264しか出来なかったがNVENCのH.264の方が画質も速度も向上したから廃れた。
H.265をCUDAのみでエンコする意味はないだろう。