スレタイ読め。
スタックトレースぐらい書け。
StreamWriterについて書いてるって事は途中まで調べてるんだろうけど、どこまで調べたかちゃんと書け。

Console.OutはTextWriter
writer = TextWriter.Synchronized(new StreamWriter(stream, encoding, 0x100, false);
後は分かるな。

対処法？.NET4にすればいい。
https://connect.microsoft.com/VisualStudioJapan/feedback/details/389622/streamwriter-encoding-2gb-argumentexception?wa=wsignin1.0