Компании больше не могут планировать бюджеты на AI

Spending on AI Is Becoming Almost Impossible for Businesses to Budget

Сотрудников заставляют выбирать из десятков LLM-моделей, следить за их эффективностью и обновлять архитектуру агентов — хотя те же люди не обязаны разбираться в базах данных и фреймворках. Участники Hacker News спорят, кто должен нести эту нагрузку: сами инженеры, выделенная команда или «auto»-режим, который просто выбирает модель за вас. Отдельная боль — зависимость от агентных пайплайнов: при исчерпании лимита токенов работа команды может встать.

К тому времени, как команда data science, в которой я был, хорошо поняла возможности, сильные и слабые стороны GPT-4o и лучшие практики его использования, он уже вступил в период устаревания.