↑conda install tensorflowしたら自分の環境でもDLL見つからないエラーが再現出来た
Anacondaでもtensorflow、tensorflow-gpuだけは公式サイトの指示通りに入れないとダメだね
pip install --ignore-installed --upgrade tensorflow
pip install --ignore-installed --upgrade tensorflow-gpu

あとcudnnも7.1.1だとcudnn系のRNN使った時にバージョン不一致エラーが出た
cudnn7.0.5を上書きすればおk