これもディープラーニングの限界なのか？
こんな記事が配信されたばかりなんだけど。

ニューラルネットワークを用いた画像認識は簡単にだますことができることを示すムービー
https://gigazine.net/news/20171102-fooling-neural-networks/

模型の一部に違う画像を入れたのか？