DialogBox の第4引数はダイアログプロシージャー（関数）のアドレス値（ポインタ）だね。

Type: DLGPROC
A pointer to the dialog box procedure.

なお、ダイアログボックスの場合は「ダイアログボックスプロシージャー」といって。
ウィンドウプロシージャーとの共通点は多いけど、同じものではないから、区別して理解する必要があるよ。
DLGPROC と WNDPROC の違いについて調べてみてね