VHDL標準の浮動小数点パッケージがsqrt(2)を間違って計算している
The VHDL standard's float package gets sqrt(2) wrong
IEEE 1076-2008/2019のieee.float_pkgを厳密演算と突き合わせて検証したところ、sqrt(2.0)がfloat64で1ulpずれ、float32では10,000回中735回、float64では1,278回が誤った結果に。macはround_nearestでも2,671回誤り、resizeは指数の切り詰めで2^-512を1.0に変え、一部の入力ではシミュレータ自体が停止する。原因はnormalizeの指数幅やsticky bitの欠落などにあり、パッケージ本体だけを修正する33ハンクのパッチも公開されている。
`mac` in `round_nearest` is wrong for 243,520 of the 2,097,152 triples of the 7-bit format.
- bee_rider
投稿の最初のリンクは(少なくとも私のiPhoneでは)有効ではないようです。モバイルSafariが…VHDLのblobを開きたがらない問題かもしれませんが?まあ、それを再確認したほうがいいかもしれません。メインページへのリンクのほうが役立つかもしれません。
[編集:二度目はうまくいったようです。よくわかりませんが、一時的な問題だったのかもしれません。すみません!]
また、私がこれを書いている時点の過去6分間で、READMEが更新され、何が起きているのかをより高レベルで説明する導入が追加されたようです。記事自体にはまだ改善の余地があると思います。しかし、完全に役に立たないわけではありません。結局のところ、この種のライブラリはULP単位まで完全に正確であるべきです。なにしろ非常に基礎的なものなのですから。
- rustybolt
なんてこった、これは人間には全く読めない。
- IshKebab
...1 ULPだけね。とにかく、誰も生のsqrtをシンセサイザーに直接食わせたりしないと思うよ。