ソースの版とリンクしてる
バイナリファイルの版をどう管理するのかってことじゃないのか?

バイナリしかないサードパーティライブラリとか画像系のアセットも普通gitで管理するよね?
デザイナ系の人が頻繁に編集するデカいファイルはGitLFSみたいな追加の仕組みを使うか
別のツールで管理してリリースバージョンのみgitに入れるかかな