SDKのページからリンクされてたけど、NVIDIA公式ブログでH.264とlibx264の比較記事が出てた。

Turing H.264 Video Encoding Speed and Quality | NVIDIA Developer Blog
https://devblogs.nvidia.com/turing-h264-video-encoding-speed-and-quality/