>2 の紹介しているCoqとか、純粋関数型言語HaskellもPCで動く数学って感じではあるけども、そもそもメモリが有限なので連続を表現できない。

どんなに小さい数を表現できても有限である以上は離散的なのよねん。

離散数学の範囲ならHaskell良いよ。

子供向けだけど、Viscuit(ビスケット)は写像というか変換のみで言語作ってる。
(ビスケットの中の人曰く「書き換え型言語」)