Почему инструменты на базе AI не заслуживают доверия
What Would a Serious AI Product Look Like?
Автор разбирает, чего не хватает современным AI-продуктам, чтобы считаться серьёзными инструментами для работы. Главная претензия — отсутствие встроенных механизмов проверки ошибок: чат-боты предупреждают о возможных неточностях, но не дают инструментов для их выявления. Также предлагается отображать цитаты крупно и с метаданными, отказаться от первого лица и извинений, создавать специализированные интерфейсы вместо универсального естественного языка, показывать происхождение данных и давать пользователю контроль над воспроизводимостью.
Если ваш продукт говорит мне, что он делает ошибки и я должен сам их проверять, но при этом не даёт мне никаких инструментов для проверки ошибок, я не могу относиться к нему серьёзно.