と思ったけど、これでいいのか

var small_option = $('[name="chbox3"]').prop('checked') || 0;

もしくはこれ。(checkboxのvalueの1が設定されている前提)
var small_option = $('[name="chbox3"]').val() || 0;