いわゆる球面上の2点間の角度?
だとしたらそれこそXMQuaternionSlerpの実装読めばわかると思うんだが
2つの単位ベクトルの角度と同じやり方じゃなかったか