どうやら質問者はOR系の最適化とディープラーニング系のSGDとかの最適化の区別ができていない為
回答者が混乱していると思われ