ビューポートの精度の問題。大きいレンジで座標を表現できるので近づいている時がより正しい。
ViewのClipにあるStartとEndの数値を狭めれば座標が丸め込まれるのを抑えられるので試してみてください。