NaN의 미스터리: Python과 Lua에서 드러난 숨은 함정

Two Case Studies of NaN

IEEE-754의 NaN은 그 자체로 이상한 존재지만, 언어 설계자들이 이를 간과하면서 더욱 기이한 동작이 발생한다. 이 글은 두 가지 사례를 다룬다. 첫째, Python에서 `[nan] == [nan]`이 `True`를 반환하는 이유는 리스트 비교 시 객체 동일성(identity)을 먼저 확인하는 최적화 때문이며, 이는 '동일한 객체는 같다'는 암묵적 가정에 기반한다. 둘째, Lua의 수치 for 루프에서 NaN이 초기값이나 증가폭으로 사용될 때 예측 불가능한 결과가 나오는 현상과 그 원인을 분석한다. 이는 NaN이 비교 연산자에 따라 다르게 동작하기 때문이며, 문서화되지 않은 동작이다. NaN의 특성을 이해하면 프로그래밍 언어 설계의 숨은 가정을 발견할 수 있다.