例えるなら
アンプに通したエレキギターで弦に触れてない時に出るノイズ（アース？）に似てます

試しにオーディオ用のタップからPCの電源だけ別にしてみたら今度は左右両側から鳴り始めた…
電源系が原因なのは確かなのかも