MonsterHunt3dTutorialを探しなさい。原書、ソースコード、訳本 がネットで入手できる。
初歩からゲームの完成までを解説してある、ゲームはTPSであるが容易にFPSに変更できる。

3Dの空間はベクトル、行列、三角関数と幾何学の高等数学で計算されるのが全てです。
当たり判定は、三角形との交差までの距離を計算するだけです。

より高度な3Dゲームの技術を知りたいならば以下の書籍を読みなさい。ネットで見付かる。
Core Techniques and Algorithms in Game Programming