XtInitialize() ってもともといくつかの関数をまとめて
簡単にしたものなので、内部で死ぬなら分解して書いたら。
1. 初期化
  XtToolkitInitialize()
2. アプリケーションコンテキストを作る。
  XtCreateApplicationContext
3. ディスプレイを開く
  XtOpenDisplay()
4. アプリケーションシェルを作る。
  XtAppCreateShell()
XtOpenDisplay() の戻り値をチェックすれば、Xサーバーが
起動しているかわかると思う。