Vector3 = Quaternion * Vector3
は、行列積を意識していると思われます。

Vector3 = Matrix3x3 * Vector3
としたいところですが、
UnityにはMatrix3x3は用意されていません。
（3×3行列の乗算では、回転とスケーリングしかできないからです）

Vector4 = new Vector4(Vector3, 1)　で4次元ベクトルにしてから、
Vector4 = Matrix4x4 * Vector4　で計算して、
Vector3 = (Vector3)Vector4　で3次元ベクトルへ戻す必要があります。

最初に、Vector4 = (Vector4)Vector3　と手抜きをしてはいけません。
Vector4 = new Vector4(Vector3, 0)　で代入されると、
アフィン変換の「移動」が乗算されなくなります。