まず陸軍か海軍か、陸軍でも（弾が軽めな大砲は外しても）、野戦重砲（でかい弾で頭越しに遠くを打ちます）、高射砲（飛行機相手）、要塞砲（主に軍艦相手）などいろいろな種類があるので、
お祖父様がどこに所属されておられたかが判らないとなんとも言えません。そのあたりの部隊名は判りませんか？　
陸軍なら聯隊か大隊レベルまで判れば装備していた火砲をかなり特定できると思います。判らないようなら軍歴証明書の取得をお勧めしておきます。
https://www.mhlw.go.jp/stf/seisakunitsuite/bunya/0000093051.html