レスありがとうございます。
でもちょっと症状が違うくて、説明の為に少し違う例を書きます

テーブルの上にリンゴが置いてある画像があるとして
１，レイヤーでリンゴを残してマスク（レイヤーサイズ　100px角）
２．キャンバスサイズを拡大（400px角に）
３.　余白が透明になるので
４．最後尾レイヤーを白に塗りつぶし

この時点ではリンゴレイヤーのキャンバス枠は見えない
だけどもリンゴレイヤーを回転させると、キャンバス枠が浮かび上がる
さらにたちが悪いのは、キャンバス枠が出ていないのに
ウェブ用に保存で、200pxとかにしたら、
レイヤーを回転していなくても、出力画像にはリンゴレイヤー枠が出る

という感じです。
キャンバス枠は白いので、わざわざ最後尾レイヤーを非表示にして
出てきた枠線をぶらしツールでマスクしてるのですが、
問題は出力画像にだけ出てくる場合です

みなさんどうやってるの？