すれ違いの理由が分かった
書き方に問題があった

Input layer ―- Hidden layer ―- Output layer
なら二層

書きたかったのは
x ―-(wx|activation) ―- y
ということなんだ

上の書き方なら
Input layer ―- Output layer
に相当する