うちの会社では、ラックに1Uをいくつも入れてサーバを構築することは
あるけど、1つのシステムボードに4CPUを超えるようなコンピュータの
導入実績はありません。

12CPUではどうかわかりませんが、
4CPU程度のマシンで使用した場合、HTTPサーバやmailサーバの場合、
FreeBSD 4.x が一番効率よく仕事をこなしてくれます。

FreeBSD 4.xとLinux 2.4.x を比較すると、Linux はネットワークや
ディスクアクセスが集中するような場合、急激に性能が低下する場合が
あって、例えばトラフィックが特定の時間に極端に集中するようなサイトには
導入するのは躊躇してしまいます。