0.1 + 0.2が0.3にならない理由を数学的に解き明かす
Adding Floating-Point Decimals for Fun and Profit
多くのプログラマーが知るように、IEEE倍精度浮動小数点数では0.1 + 0.2は0.3にならず、0.30000000000000004となる。しかし、0.01の倍数を足し合わせる場合、誤差が生じないことも多い。本記事は、その誤差のパターンを数学的に分析し、浮動小数点数の加算で生じる誤差が最大1 ulpに収まることを証明する。さらに、誤差関数の周期性を利用して、図1のようなチェッカーボード模様が現れる理由を明らかにする。
浮動小数点数の加算では、結果は最大で1 ulpだけ答えからずれることがある。
HNでの議論
35- sieve
会計には重要性の概念がある。しかし、それでも数字は最後の1セントまで合っていてほしい。
これを実現する一つの方法は、計算/保存と表示のレイヤーを分離することだ。計算/保存には整数を使ってセント単位で値を保持し、表示時にのみドル+セントに変換する。しかし、突然誰かが小数点以下3桁を要求するかもしれないし、アプリケーションの一部でロジックが変わったからといって、保存されているすべての値を変更するわけにはいかない。だから、decimalを使う方が安全な選択だ。
とはいえ、私のプレーンテキストの元帳ソフトウェアでは整数を好む。フォーマットを自分で制御できるからだ。
- amelius
> 多くの人は、米ドルやセントを含む10進数の計算を、ほとんどのプログラミング言語の浮動小数点数で行うべきではないことを知っている。これは、10進数をそのような浮動小数点数として正確に表現できないため、丸め誤差が発生するからだ。
なぜだめなのか。64ビット浮動小数点数(Javascriptがすべてのブラウザで使う浮動小数点型)を使えば、現実的な金額ではセント単位に丸める方がはるかに精度が低くなるだろう。
- kphorn
Peter Gibbons、Michael Bolton、そしてSamir "Nagana-work-here-anymore"による、Initech時代についての素晴らしいブログ記事
https://www.youtube.com/watch?v=yZjCQ3T5yXo
「わかった、つまりサブルーチンが利息を複利計算するとき、切り捨てられる余分な小数点以下の桁を全部使うんだ。だから全部を単純化して、全部切り捨てて端数を落として……俺たちが開いた口座に入れるんだ」
- sobriquet9
Pythonのfractionsの他に、構成的実数というものもある。Androidの電卓がその例で、任意の答えをスワイプすると好きなだけ桁数を得られる。
- krige
おそらく、テキストより先に画像が読み込まれた初めてのケースだ。1pxの矩形のグリッド?なんて不穏なんだ。