Все десять AI-моделей заменили конкретную задачу универсальным сценарием
When AI Knows More Than It Can Offer
Эксперимент с десятью известными AI-системами, включая ChatGPT, показал: на запрос о продвижении профессионального литературного переводчика в издательствах все модели выдали почти одинаковый план — вести блог, публиковать советы и строить личный бренд. Формально гладкий ответ не решает исходную бизнес-задачу. Автор связывает это с RLHF и оценкой по форме, а не по результату, и называет такое поведение подменой цели — ошибкой, которую труднее заметить, чем обычную галлюцинацию.
Модель распознаёт отдельные элементы запроса — продвижение, профессиональную деятельность, экспертизу, перевод — и активирует хорошо освоенный сценарий маркетинговой активности, но не проводит необходимого анализа связей между поставщиком услуги, клиентом и рынком.