>>359
コンピュータにおける浮動小数点は、内部表現は10進数ではなく2進数
で表現されており、有効桁数は 10 進数で 8 桁や 15桁などではなく
2進数で xx BIT という風になっています。
0.2, 0.3, 0.4 は、10進数だと、有効桁数が1桁でも完全に区切れが
よく表現できていますが、2進数の表現だと厳密には無限小数になってしまい、
どんなに有効桁数を長くしても厳密には表現できません。そのため計算誤差
が生じるのです。0.5 や 0.25 や 0.125 は 2 進数でも区切れ良く表現できるため、
(0.125+0.25)+0.5 == 0.125+(0.25+0.5)
は誤差が生じることがないため、必ず真になるはずです。
探検
C++相談室 part145
■ このスレッドは過去ログ倉庫に格納されています
360デフォルトの名無しさん
2019/10/05(土) 08:55:38.66ID:KADe2ROY■ このスレッドは過去ログ倉庫に格納されています
ニュース
- 「シンゾー、素晴らしかった」 トランプ氏、演説で述懐 [Hitzeschleier★]
- 石破総理「極めて残念であり不本意」 トランプ大統領が日本に24%の相互関税 [どどん★]
- 【福岡地検】女子小学生と性交した35歳アルバイト男性を不起訴に [シャチ★]
- 【福島】36歳無職男、10代少女に「一緒に自殺しませんか」と誘拐、わいせつ行為の後少女は思いとどまり自殺は未遂に [おっさん友の会★]
- トランプ大統領 日本を批判「トヨタは100万台米国で販売する一方GMやフォードはほとんど販売してない。米国の企業は他国で排除」★4 [Hitzeschleier★]
- トランプ大統領 長年米国は他国に略奪されてきた 友好国はたちが悪い 日本は米国産のコメや自動車を買わず「とてもタフ」 [Hitzeschleier★]
- 貿易戦争で対米報復関税を行わない弱腰日本政府をマスコミとネトウヨが批判しない謎 [633746646]
- 米経済界、トランプ関税を非難 「アメリカを潰す気か」 [432287167]
- 【朗報】安倍晋三、寿命が7年延びると言われる黒タマゴを半分だけ食べ「おかげで3.5年(寿命が)延びたね」とジョークを披露 [412290841]
- 【速報】田中将大さん、先頭打者を出してしまうw w w w w ww w w w w w w w w
- ジャップ、モラル崩壊… [667744927]
- 自殺願望の10代女の子、「一緒に死にませんか」と誘ってきたおっさんと山中での練炭自殺の直前にセックス→正気に戻り街の交番に駆け込む [597533159]