Стандартный пакет VHDL для чисел с плавающей запятой вычисляет sqrt(2) неправильно
The VHDL standard's float package gets sqrt(2) wrong
Аудит ieee.float_pkg из IEEE 1076-2008/2019 выявил десятки тысяч ошибок округления: в float32 81 068 неверных результатов и 272 остановки симулятора на 859 771 вызов. Причины — потеря сторожевых битов, неверный sticky bit и переполнение экспоненты. Приложен патч на 33 хунка, исправляющий normalize, divide, sqrt, mac и преобразования в целые.
Для денормализованного аргумента начальное приближение слишком далеко для такого числа шагов: 128 из 359 денормалей float32 неверны, 104 из них более чем на две единицы, а sqrt (2.0**-149) возвращает 11-кратный корень.
- bee_rider
Первая ссылка в посте, похоже, не работает (по крайней мере, на моём iPhone). Может, это проблема мобильного Safari, который не хочет открывать… vhdl-блоб? Может, стоит перепроверить, ссылка на их главную страницу была бы полезнее.
[правка: со второго раза вроде сработало, не знаю, может, это была просто временная проблема, извините!]
Ещё, похоже, за последние шесть минут (на момент написания этого поста) README обновили, добавив вступление, которое начинается с более удачного высокоуровневого описания того, что происходит. Думаю, статье всё ещё не помешала бы доработка. Но она не совсем бесполезна, правда, такая библиотека должна быть полностью корректной, вплоть до ULP, в конце концов, это довольно фундаментальная вещь.
- rustybolt
Боже мой, это совершенно нечитаемо для человека.
- IshKebab
... на один ULP. В любом случае, не думаю, что кто-то просто подаёт сырой sqrt в свой синтезатор.