数値計算総合

**デフォルトの名無しさん** · 2020/03/18(水) 04:44:36.36

プログラミングで使う数値計算のスレです
正規化, 微分積分, 行列式, etc

**デフォルトの名無しさん** · 2020/03/18(水) 18:04:20.14

質問スレで0~255を0~3の範囲に変換したいと質問した
回答は x * 3 / 255 を得られた
これについて自分なりに考えてみる

まず x / 255 でxが0~255の範囲であった時に、値が0~1の範囲に正規化される
つまりxを3倍すれば正規化の範囲も3倍になるということになる

回答を頂く前に (x / (255 * 3)) * 10 という式を自分で考えていたが、回答の式のほうがスマートに実装できた

x / 255という式を最初に発想できていれば自力で解決できたかもしれないのが悔やまれる

**デフォルトの名無しさん** · 2020/03/20(金) 05:19:59.16

数値計算の、既にライブラリとかが整備されてそうなやつ(2次方程式の解とか)を、
自前で書かないといけない場合って、
ライブラリの自作やアルゴリズムとかの勉強を除くと残ってるのだろうか？

ライセンス絡みで、仕事では使えないから自分で書くとか、
仕様が自分の用途にはoverkillだからサブセットを書くとかは
あるかも知れないけど。

**デフォルトの名無しさん** · 2020/03/20(金) 09:46:28.25

>>2
>回答は x * 3 / 255 を得られた
x * 4 / 256 (= x / 64)の間違いだよね？

**デフォルトの名無しさん** · 2020/03/20(金) 10:02:06.25

>>4
ごめ、>>2は間違い
質問スレで貰った回答は x * 4 / 256 で合ってる

**デフォルトの名無しさん** · 2020/03/20(金) 13:14:46.24

xが0なら2を1なら－ 1を返すにはどうやる?

**デフォルトの名無しさん** · 2020/03/20(金) 21:26:13.31

2-3*x

**デフォルトの名無しさん** · 2020/03/20(金) 21:28:20.69

xが0または1しか取り柄ないなら
x==0?2:-1

**デフォルトの名無しさん** · 2020/03/22(日) 14:38:45.70

スパコン界隈はまだFortranが現役なんだっけ？
最高齢かつ現役ってスゲーな