解決しますた（・ω・）∩”
ドライバ再インスコでは駄目でした。不正なパラメータということで、4k時に無理がある設定になっていると推測。
ベースにしたプリセットをロードして4ｋリサイズエンコしてみたら・・・出来た。
そこから自分の設定に一つ一つ近づけていって不正な値になっているパラメータを追い詰めていくと・・・
原因はBフレーム数下の「参照距離」の値でした。6を（Bフレーム数は3を）使用してましたが、どうも4kの時は5が最大のようです。
参照距離6→5に変えることで4k出力できるようになりました。めでたしめでたし。
おわり