o2onで相手ノードに繋がらなくなる現象で考えられる原因は単純に相手のノードが見つからなくなることやポート開放が上手くいってないことなどが挙げられます。
TCP同時接続数もXP-SP2以降、Vista以外ではデフォルトで無制限のはずですのでXP-SP2以降、Vista以外のOSの方は関係ないと思われます。
また、同時接続数がオーバーしていても順番が回ってきさえすればきちんと接続されるので気にする必要も無いでしょう。
ファイルサーバー云々に関してもo2onとは関係ないと思われます。

まずポート開放が正常に行われているか確認し、何方かに最新のノード情報を頂いてそれ向けに接続、
自分のグローバルIPが確定したら自ノード情報を貼り付け、それでも接続が上手く行かない場合はプロバイダ等を疑ってみてください。