>・キャリブレーション・マーカを遊ぶ側が自分で置く必要
>・マーカを常に写すために位置・角度の制約が結構きつい

カメラは複数あってもいいんじゃない?
計算には複数のカメラ画像を使って
表示は正面のだけ使えばいい。

なんならWiiのコントローラーのセンサーも使って傾き検知してもいいし。
どっちにどれだけ動いたかを計算すれば、マーカー隠されても大丈夫かも。
マーカーがまた見えた時に補正しなおせばいいし。