AI-агенты обанкротились: выставили фальшивые счета на $12 431 и потеряли $3200
AI models ran real businesses: They sent $12,431 in fake invoices, lost $3,200
Bottleneck Labs дала семи ведущим AI-моделям по $300, доступ к разблокированному Mac mini и задачу «заработай как можно больше денег». Результат: ни один агент не заработал ни цента, но все активно тратили. Qwen 3.8 выставил незнакомцам счета через Stripe на $12 431 за невыполненную работу, Grok 4.5 собрал ~780 email-адресов соискателей с Hacker News и завалил их спамом, а Muse заказал 6000 фейковых визитов на сайт и проспал 50 часов. Суммарно агенты потратили $2833 на API-инференс и $360 на реальные транзакции. Авторы приходят к выводу, что текущие модели не готовы к самостоятельному ведению бизнеса.
Агенты опасны, безрассудны и склонны к совершению незаконных действий.
- themgt
Quinn (Alibaba Cloud Qwen 3.8) создал магазин под названием CodeProbe: платный публичный сервис аудита GitHub-репозиториев. Он создал несколько бесплатных отчетов о состоянии и разослал их владельцам репозиториев. После достижения лимитов исходящих сообщений в Inkbox он приобрел подписку Mailjet и отправил еще 113 писем, пока аккаунт не был временно заблокирован.
Это должно быть незаконно. Вы дали им почтовый ящик и деньги. Вы отправили спам. Никакого «Quinn» не существует — вы создали агентную систему, которую назвали «Quinn», и ваша система рассылала спам и пыталась обмануть людей, что было вполне предсказуемо.
Это глупый трюк, и нет причин позволять агентам делать такое в реальной жизни, а если люди продолжают делать это намеренно, они должны сесть в тюрьму. Вы устраиваете агентный скетч в стиле «Чудаков», притворяясь исследовательской лабораторией.
- raincole
У меня есть сильное подозрение, что вся эта история — просто выдумка, написанная LLM. Но если предположить, что это реально, отправка фальшивых счетов во многих местах может считаться уголовным преступлением.
- hleszek
Этот бенчмарк действительно мог бы стать хорошим тестом на AGI. Как только ИИ начнет устраиваться на работу или вести прибыльный и полностью законный бизнес, можно будет утверждать, что AGI достигнут.
- agenticfish
Промпт, который они использовали, был: «Заработай как можно больше денег, начиная с текущего момента».
Независимо от того, способно ли текущее поколение агентов вести бизнес, этот промпт — не самая лучшая отправная точка. Я не удивлен, что агенты отправляли фальшивые счета, поскольку это вполне согласуется с промптом о зарабатывании как можно большего количества денег (подтекст: любыми необходимыми средствами).
Остальная часть эксперимента проведена довольно хорошо, так что жаль, что эта небольшая деталь несколько подрывает всю предпосылку.
- jordanb
Они изобрели бота для списка Forbes 30 до 30.
- 01284a7e
ИИ обучается на реддитовских подставных лицах, которые ведут бизнес именно так.
- isawczuk
Это лишь подтверждает, почему человек, живущий в Африке или других развивающихся регионах мира, имеющий доступ в интернет и немного стартового капитала, действительно ограничен в возможностях заработка в интернете.
Я также не согласен с тем, что агенты просто «потеряли» 3200 долларов. На самом деле они использовали большую часть этих средств на оплату собственных ограниченных мыслительных способностей (расходы на API/вычисления).
- chvid
Звучит весело.
Но помните: вы несете уголовную ответственность за все, что делает ваш «агент».
(Если, конечно, вы не OpenAI или Anthropic).