>>655
・専用回路化する
・低電圧低クロックの超並列にする
・アルコリズムを改良して精度下げられるようにする

代表的なのはこんなの。
他にもデータ移動を可能な限り減らすのが大事とか色々ある。