Формальная верификация не поддаётся проверке
Formal Verification Is Not Verifiable
Автор утверждает, что AI сделал формальную верификацию массовой, но сама она неверифицируема: доказательства не требуют внешней проверки, а определения, модели и пруверы — требуют. Термин «формально верифицированный» вводит в заблуждение, поскольку нельзя доказать «корректность» ПО целиком — только отдельные свойства. Он призывает немедленно отказаться от этого понятия и всегда перечислять, что именно доказано и что находится в доверенной вычислительной базе.
Моё мнение таково: мы должны как можно скорее упразднить понятие «формально верифицированное программное обеспечение» — нужны нюансы.