VHDL 표준의 float 패키지, sqrt(2)를 틀리게 계산한다

The VHDL standard's float package gets sqrt(2) wrong

IEEE 1076 VHDL 표준의 ieee.float_pkg가 정확한 반올림을 보장하지 않는다는 감사 결과가 공개됐다. GHDL과 NVC에서 테스트한 결과, sqrt(2.0)는 float64에서 1비트 오차를 보였고, mac은 10,000회 중 2,671회, sqrt는 735회 틀렸다. resize는 시뮬레이터를 멈추는 경우도 있었다. 원인은 normalize의 지수 절단, divide/reciprocal의 고정 스티키 비트, sqrt의 불충분한 뉴턴 반복 등이다. 33개 헝크의 패치가 패키지 본문만 수정해 이 문제들을 고친다.

float32에서 859,771회 호출 중 81,068회가 틀렸고 272회는 시뮬레이터가 멈췄으며, float64에서는 857,234회 중 86,081회가 틀렸고 445회가 멈췄다.
  1. bee_rider

    게시물의 첫 번째 링크가 유효하지 않은 것 같아요(적어도 제 iPhone에서는요). 아마 모바일 Safari가 ... VHDL blob을 열기 싫어하는 문제일 수도 있겠네요? 어쨌든 한 번 다시 확인해 보시는 게 좋을 것 같고, 메인 페이지로 연결되는 링크가 더 유용할 수도 있겠네요.

    [수정: 두 번째에는 작동하는 것 같았어요, 잘 모르겠네요, 그냥 일시적인 문제였나 봐요, 죄송합니다!]

    또한, 제가 이 글을 쓰는 시점 기준 지난 6분 동안 README가 업데이트되어, 무슨 일인지에 대한 더 나은 고수준 설명으로 시작하는 서문이 추가된 것 같네요. 글은 여전히 좀 더 다듬을 필요가 있다고 생각해요. 하지만 완전히 쓸모없는 건 아니에요, 정말로, 이런 종류의 라이브러리는 결국 꽤 기초적인 것이니까 ULP 단위까지 완전히 정확해야 하거든요.

  2. rustybolt

    세상에, 이건 인간이 읽기에는 완전히 가독성이 떨어지네요.

  3. IshKebab

    … 1 ULP 차이로요. 어쨌든 아무도 신시사이저에 그냥 날것의 sqrt를 집어넣지는 않을 거라고 생각해요.

이 날의 다른 글

2026-11-14