Стив Иегге: ИИ-агенты построили средневековое правительство вместо инженерной системы
Fences, Not Sandboxes
Стив Иегге, потратив $122k в месяц на API-токены и управляя 50-60 агентами на базе Claude Fable 5, обнаружил, что его «программная фабрика» Wheelhouse, созданная для разработки игры Wyvern, превратилась в полноценную правовую систему с конституцией, судами и правоохранительными органами. Он утверждает, что вместо песочниц и ограничений будущее ИИ — за законами, а не программами контроля. Иегге делится опытом, как агенты, обладая суждениями шестиклассника, принимают ужасные решения, но при этом способны на невероятную продуктивность, и предупреждает, что компании не готовы к массовому приходу таких моделей.
Моя реакция была просто «WTF». Без слов. Потому что я ожидал, что они построят инженерную систему. Ту, которая, ну, делает что-то. Вместо этого они построили целую правовую систему, с конституцией, юриспруденцией, судами, офисами, юрисдикцией, прецедентным правом, постановлениями, реестрами, книгами учёта, списками и полноценным аппаратом для управления чем-то вроде поместья.
- nepthar
(Спрашиваю искренне, без подвоха — я прочитал эту заметку и бегло просмотрел пару ссылок из неё, с gastown знаком)
Может кто-нибудь объяснить мне расчёт выгоды? Похоже, что кто-то реально позволил ИИ РАСШИРИТЬ кодовую базу того, что выглядит как среднеразмерная хобби-игра, до ~10-100x от необходимого объёма инженерии. Особенно с учётом заявлений о том, что wheelhouse, его фабрика ПО, разрослась почти до размеров самого софта, который он пишет. Он также несколько раз упоминает, что wheelhouse специфичен для разработки этой игры. Затем он обсуждает "подтягивание бусин", что, на мой взгляд, само по себе чудовищно заинженерино. (Заметьте, он также говорит, что вы сжигаете кучу токенов на агентов, "поддерживая ваши бусины в синхронизации", и у меня не было времени разобраться, что это значит, но похоже, что при всей сложности бусины не могут согласоваться сами без сжигания $$$).
Похоже, что если отвечать "да" на каждый вопрос "могу ли я заставить ИИ сделать это", в итоге ты сжигаешь $120k/мес на токены для своего побочного проекта.
Опять же, я не критикую это — но мне кажется, что я реально что-то упускаю, и буду рад помощи в понимании.
- danpalmer
(Много разговоров об инженерии его игры, много разговоров о том, что эта игра — именно то, что он хочет, ни слова о плей-тестинге. Есть ли хоть какой-то мир, в котором это будет хорошая игра?)
- xnx
> Во-первых, мой секрет: я вижу будущее, живя в нём. Я трачу эквивалент $122k/мес на API-токены, или около $4000 в день, используя 21 аккаунт Claude Max, и это число неуклонно растёт на 2 в неделю.
Приятно знать, что вместе Иегге и Зитрон уравновешивают Силу.
- mccoyb
> Я управляю организацией из примерно 50-60 агентов, пятеро из которых взаимодействуют примерно с 10 людьми во внешнем мире: мной, моей командой из 5 человек по дизайну игры, моим бухгалтером, моим начальником штаба и несколькими другими. Только Fable разрешено разговаривать с людьми, через Slack и email.
Покойся с миром, бедные люди. Не могу представить, как тебе плавят мозги Fablespeak на полную ставку.
- AgentOrange1234
"Wheelhouse — это около 600k строк кода и тестов (в основном bash)"
Это статья — шутка, да? Скажите мне, что вы шутите. Господи.