>>75 お題をよく読んだら? 24bit = 3バイト毎に取り出してその合計に対して 2**24-1 をしなさいと言う問題だよ。

数学なんて関係ない。 ただ出されたお題をプログラムで解いてくれ。