mp4ファイルをmkvmergeやtsMuxerでオープンしてみれば何らかわかるのでは?
solo4kとかmp4とかdtsに無関係な、単なるストリーム不正と予想

というか、dtsをmp4に入れ込む気持ちが理解できない、そもそもdtsって格納できないのでは?