setFullScreenWindow() の所にこんなこと書いてある

https://docs.oracle.com/javase/jp/8/docs/api/java/awt/GraphicsDevice.html#setFullScreenWindow-java.awt.Window-
Windowsはフル・スクリーン・ウィンドウをオーバーラップできません。その他のすべてのアプリケーション・ウィンドウは、常にフル・スクリーン・ウィンドウの下にZ軸順で隠されて表示されます。