1.732050776と比較したいのではなく√3です（√3という数も説明の便宜上です念のため）
ですからdouble型でも√3が表現できないのは変わらない以上は
floatをdoubleにしても問題の起こりやすさが減るだけで起こることに変わりないと思います
doubleを使うなら1.7320508075688...よりも多くの桁数を書くことになるというだけです（20桁以上？）．．．

私の場合有効桁数そのものが問題なのではなく、切り上げか切り下げを指定したいということです
あるいはどちらが行われているかがわかればそれで問題ありません（と思います）

加えるとほかの工程に渡す必要があるためdecimal等をサポートするライブラリの使用は非常に厳しいです