부동소수점으로 달러 계산하기: 0.1+0.2가 0.3이 아닌 이유와 그 속 숨은 패턴

Adding Floating-Point Decimals for Fun and Profit

대부분의 프로그래밍 언어에서 달러와 센트 같은 십진수 계산에 부동소수점을 쓰면 안 된다고들 한다. 0.1 + 0.2가 0.3이 아닌 0.30000000000000004가 되는 유명한 문제 때문이다. 하지만 실제로 영수증 합계를 낼 때는 오류가 거의 나타나지 않는다. 이 글은 0.01의 배수들을 더할 때 나타나는 흥미로운 패턴을 소개하고, 부동소수점 오류 함수를 분석해 그 패턴이 어디서 오는지 수학적으로 설명한다.

IEEE 배정밀도 부동소수점에서 0.1 + 0.2는 0.3이 아니라 0.30000000000000004이다.
  1. sieve

    회계에는 중요성(materiality)이라는 개념이 있다. 하지만 여전히 숫자가 마지막 1센트까지 정확히 맞아떨어지길 바란다.

    이를 위한 한 가지 방법은 계산/저장 계층과 표시 계층을 분리하는 것이다. 계산/저장에는 정수를 사용해 값을 센트 단위로 저장하고, 표시할 때만 달러+센트로 변환한다. 그런데 갑자기 누군가 소수점 이하 세 자리를 요구할 수도 있고, 애플리케이션의 한 부분에서 로직이 바뀌었다고 해서 저장된 모든 값을 바꿀 수는 없다. 그래서 decimal을 쓰는 게 더 안전한 선택이다.

    그래도 나는 내 플레인 텍스트 원장 소프트웨어에는 정수를 선호한다. 포맷을 내가 통제할 수 있으니까.

  2. amelius

    > 많은 사람들이 미국 달러와 센트 같은 십진수 계산을 대부분의 프로그래밍 언어에서 부동소수점 숫자로 해서는 안 된다는 것을 알고 있다. 십진수를 그런 부동소수점 숫자로 정확히 표현할 수 없기 때문에 반올림 오차가 발생한다.

    왜 안 되나, 64비트 float(모든 브라우저에서 Javascript가 쓰는 float 타입)을 쓰면 현실적인 달러 금액에서는 가장 가까운 센트로 반올림하는 게 훨씬 덜 정밀할 텐데.

  3. kphorn

    Peter Gibbons, Michael Bolton, 그리고 Samir "Nagana-work-here-anymore"가 Initech에서 보낸 시간에 관한 훌륭한 블로그 포스트

    https://www.youtube.com/watch?v=yZjCQ3T5yXo

    "좋아, 그래서 서브루틴이 이자를 복리 계산할 때, 그냥 반올림돼 버리는 이 모든 추가 소수 자릿수를 사용해. 그래서 우리는 전체를 단순화해서, 전부 내림하고 나머지는... 우리가 개설한 계좌로 넣었어"

  4. sobriquet9

    Python의 fractions 외에도 constructive reals가 있는데, Android 계산기가 그 예로, 어떤 답이든 스와이프하면 원하는 만큼 많은 자릿수를 얻을 수 있다.

  5. krige

    텍스트보다 이미지가 먼저 로드된 경우는 아마 처음 겪어보는 것 같다. 1px 사각형들의 그리드? 참 불안하네.

이 날의 다른 글

2026-10-01