Почему 0.1 + 0.2 не равно 0.3: анатомия ошибок с плавающей запятой
Adding Floating-Point Decimals for Fun and Profit
Автор разбирает, почему сложение десятичных чисел с плавающей запятой даёт неожиданные результаты, и показывает, как ошибки округления образуют красивые фрактальные узоры. На примере 0.1 + 0.2 объясняется, как работает IEEE double-precision, откуда берётся ulp и почему Python выводит 0.30000000000000004. Анализируется общий случай сложения денежных сумм и доказывается, что результат может отличаться от точного не более чем на один ulp.
Многие знают, что не стоит выполнять десятичные вычисления, например с долларами и центами, используя числа с плавающей запятой в большинстве языков программирования. Это потому, что десятичные числа не могут быть точно выражены такими числами, и вы столкнётесь с ошибками округления.
- sieve
В бухгалтерском учёте есть понятие существенности. Но всё равно хочется, чтобы цифры сходились до последнего цента.
Один из способов — разделить вычислительный/хранилищный и презентационный слои: использовать целые числа для хранения значений в центах для вычислений/хранения и конвертировать в доллары+центы только при отображении. Но потом кто-нибудь может внезапно потребовать три знака после запятой, и нельзя просто так взять и изменить каждое сохранённое значение только потому, что логика поменялась в одной части приложения. Так что использование десятичных дробей — более безопасный выбор.
Хотя для моей программы для простого текстового учёта я предпочитаю целые числа, потому что формат под моим контролем.
- amelius
> Многие знают, что не стоит выполнять десятичные вычисления, например, с долларами и центами США, используя числа с плавающей запятой в большинстве языков программирования. Это потому, что десятичные числа не могут быть точно выражены такими числами с плавающей запятой, так что вы столкнётесь с ошибками округления.
Почему бы и нет, округление до ближайшего цента будет гораздо менее точным для любой реалистичной суммы долларов при использовании 64-битных чисел с плавающей запятой (тип float, который Javascript использует в каждом браузере).
- kphorn
Отличный пост в блоге от Peter Gibbons, Michael Bolton и Samir "Nagana-work-here-anymore" об их времени в Initech
https://www.youtube.com/watch?v=yZjCQ3T5yXo
"ладно, так вот, когда подпрограмма начисляет сложные проценты, она использует все эти дополнительные десятичные знаки, которые просто округляются. Так что мы всё упростили, округляем их все вниз и сбрасываем остаток... на счёт, который мы открыли"
- sobriquet9
Помимо fractions в Python, существуют также конструктивные вещественные числа, пример — калькулятор Android, где можно свайпнуть любой ответ, чтобы получить сколько угодно цифр.
- krige
Возможно, первый случай, когда я столкнулся с тем, что изображение загрузилось раньше текста. Сетка из прямоугольников размером 1px? Как это тревожно.