>>729
CPUは高性能のコアが少数（通常4コア〜64コア程度）載っているのに対し
GPUは比較的低性能のコアが大量（600~5000コア程度）載っているデバイスです。
cudaを使わない理由はありますか？
そして、Deep LearningフレームワークのOpenCL対応が遅れているのに対して
CUDAは広く使われています。だから現状では、深層学習用のGPUと言ったらほぼ
NVIDIA製品となっているんですね。
更に、CUDAやOpenCLで高速なプログラムを書くには
GPUの特性をしっかりと知っていないといけません。