隠れ層の数は、どこかで上限を迎えるよ。それ以上数を増やしても強くならなくなる。

隠れ層のどのノードで何を学習するかは、完全に初期値依存のランダムなので、
キメラコマンドは原理的に無理だと思う。線形計画なら、初期値はゼロで良いけど
NNは初期値に値をセットしないといけない。その初期値によって、学ぶ内容も
変化するし、酷い時にはなかなかまともに学習しないという不安定性もある。

そのほか、部分的にノードが死んだりする事もあり、NNにはNNのノウハウがある。
CNNのお陰で、最近忘れている人が多いけどw