今やってみたけど、GT1030のへなちょこPCでもCUDA9.0/cuDNN7.1/Anaconda3 5.1(python3.6)でHalloWorldまで動いたよ。
Visual StudioやWindows SDKなどはインストールしていない。
GPUのドライバーはCUDAと一緒に入るやつだし、PATHもCUDAインストール時に自動で設定されたまま。
CUDAはbaseをインストールしてからpatchをインストールね。cuDNNはCUDAのディレクトリにコピー。
あとは、conda create -n tf python=3.6 、conda activate tf してから、公式ドキュメントのとおりpipでtensorflow-gpuをインストールした。
特に環境依存なところも無さそうだけれども。