どうもそのやり方にピンとこないのだけど
whlは枯れたやり方だよね?
ならgit cloneしてmakeでビルドしてもらって
ローカルでpython setupでインストールしてもらったほうが…安全なのでは