四角く切り取るなら指定範囲外にあるドットのRGB値を
1ドットずつプラマイゼロになるように被せればなんとかならないだろうか