grep -E '^\||Error' -Hd skip ./**/*.log

-E で正規表現。
-d skip で、ディレクトリ名を非表示。
-H で、ファイル名も表示。
ディレクトリの再帰は、./**/*

出力
./test/test01.log:0501　Error！
./test/test01.log:|まちがってるよ
./test/test01.log:|まちがってるよ

この出力から、: の前をファイル名、後を行に、分解すればよい

Ruby の、glob でも出来るけど