Firefox単体でオートグルーピングしたものの、
ダイアログ系が皆フルスクリーンサイズでタブに統合されてしまい
奇妙なことになってしまいました。

なんだか自分の習慣に問題がある気がしてきました。
自分の場合ブラウザは常に最大化して眺めているのですが
Fluxboxで何かを最大化しているスクショをあまり見かけませんね。
（もちろん見栄えしないからというのはあるでしょうが）