RDBMSにおけるメモリ使用量のほとんどはデータのキャッシュ領域なので
(PostgreSQLでshared_buffers、MySQLでinnodb_buffer_pool_size)、
そこを少なく設定すれば省メモリになる。もちろんその分性能は下がる。

そこを同じ設定にしたと仮定すると、
PostgreSQLはマルチプロセスアーキテクチャ、
MySQLはマルチスレッドアーキテクチャなので、
データベースへの接続数が多い場合はMySQLの方がメモリ使用量は少ない。