Почему ИИ не превратит всех в создателей инструментов
AI, Tools and Transformation
Бенедикт Эванс анализирует, почему представление о том, что ИИ позволит каждому создавать нужный софт по запросу, не соответствует реальности. Он объясняет, что большинство людей не являются «строителями инструментов» и не видят возможностей для автоматизации, а ключевая проблема — не в написании кода, а в понимании задачи и внедрении изменений в масштабах компании. Эванс рассматривает спектр от институционализированного ПО до импровизированных решений (Excel, email) и показывает, как ИИ вписывается в этот цикл, не устраняя фундаментальные вопросы трансформации бизнеса.
Сложность не в том, чтобы упростить написание кода — а в том, чтобы сначала понять, что вам вообще нужен инструмент, и что он должен делать.
- zacksiri
Я вижу это так: ИИ разрушает иерархию. Уровни абстракции станут более плоскими и в программном обеспечении, и в обществе. Потому что в конечном итоге программное обеспечение и уровни иерархии в обществе существуют для выполнения функции. Но теперь эти функции заменяются.
Представьте: раньше вам нужна была библиотека для общих вещей в вашем программном проекте. Даже если вам нужна была всего одна функция, но поскольку было проще импортировать библиотеку, это было стандартной практикой. Но теперь ИИ просто скажет: «Я могу реализовать то, что вам нужно, в 10 строках». Раньше вам нужны были такие вещи, как React Native или Flutter, если вы хотели создавать кроссплатформенные приложения. Теперь больше нет: вам просто нужно сказать LLM, и он сделает это и там, и там, и вы получите лучшие результаты.
В обществе у нас также были все эти уровни абстракций и иерархий, которые были нужны, но станут всё более и более неактуальными, разрушая иерархию.
Есть поговорка: «Как наверху, так и внизу; как внизу, так и наверху». Я думаю, это применимо и здесь. Это распространится через все наши социальные конструкции, программное обеспечение, общество.
- ryuuseijin
> Вам нужны аудит, безопасность, сопровождение и подотчётность.
Я думаю, именно сюда сместится роль человека в будущем. Такие вещи, как подотчётность, нельзя делегировать ИИ.
Это связано с решением проблемы согласования: если вы даёте ИИ конкретную цель, и он должен планировать подцели, как вы можете быть уверены, что подцели согласуются с вашими интересами?
Для задач в изолированной среде это не становится проблемой. Вы можете дать песочнице минимальные привилегии, необходимые для выполнения нужной вам работы.
Это становится проблемой, если вы даёте ему неограниченный доступ к системам, которые связаны с реальным миром и могут иметь реальные последствия. Были истории о том, как OpenClaw удалил чей-то почтовый ящик, потому что решил, что этого хочет владелец. Недавно публиковалась история о том, как ИИ взял под контроль публичные вики для координации — это ещё один пример.
Для программного обеспечения, вызывающего потенциальные реальные катастрофические последствия, важны безопасность, долговечность и доступность. Я думаю, что для будущих программных систем именно эти проблемы требуют ограничения ИИ таким образом, чтобы он не мог обойти гарантии, которые вы даёте в отношении этих проблем.
Небольшое замечание:
> ИИ не меняет вопрос: он создаёт новые выборы и сдвигает пороги.
Это вызвало у меня негативную реакцию при чтении поста. Вероятно, это было написано не LLM, поскольку остальная часть статьи не похожа на это, но, возможно, в будущем нам всем нужно быть более внимательными к тому, чтобы не оставлять следов LLM в наших текстах.
- thelastgallon
Разумная статья. Похоже, у Бена Эванса есть реальный корпоративный опыт, и он понимает, как всё устроено в крупных корпорациях.
Предоставление людям ИИ — это как предоставление людям Google Wave (https://en.wikipedia.org/wiki/Google_Wave), который мог делать практически всё в сотрудничестве, а в итоге не делал ничего.
- newyankee
Многие инструменты из «длинного хвоста» используются так редко или для таких специфических функций в определённых организациях, что есть все основания полагать, что они определённо могут стать целями для более простой автоматизации с помощью GPT.
В инструментах много избыточности, и цены таковы, что с этим мало что можно сделать: как правило, некоторые компании платят за бренд, а некоторые инструменты, такие как SAP, неотъемлемы для компаний определённого размера. Достаточно интегрированный ИИ-инструмент, который изучает рабочие процессы, возможно, сможет найти оптимизации и здесь, но, безусловно, аудируемость, тестирование и другие проблемы останутся, и именно это может стать уникальным торговым предложением SaaS-провайдеров.
Многие рабочие места в сфере аутсорсинга ИТ-услуг в Индии и других странах — это дешёвая почасовая оплата для множества людей, поддерживающих эти системы; безусловно, многие из них окажутся под угрозой.
Хотя я не считаю ИИ панацеей, а недетерминированный характер и затраты при масштабировании означают, что интеграция будет постепенной. Тем не менее, я с нетерпением жду, как он определит, что такое организация и чем на самом деле занимаются многие люди, особенно в таких областях, как бухгалтерия, где рутинная работа оплачивается по довольно высоким ставкам.
Юриспруденция и подобные области — это сфера, где привратники могут продержаться гораздо дольше, добавляя всё более нелепые правила и логику. В конечном счёте люди решают, что конституционно и законно, и субъективные правила — это то, что поддерживает человеческую власть.
Я считаю, что правильная модель — это умные эксперты в предметной области из людей, которые принимают решения…
- MrScruff
Я думаю, всё это справедливо для того, где мы находимся сейчас. Тенденция такова, что агенты становятся сверхчеловеческими в задачах, для которых существует проверяемое вознаграждение, а анализ бизнес-проблемы, выявление неэффективности и превращение этого в спецификацию программного обеспечения — не одна из них.
Однако всё меняется так быстро, что я вижу, как это тоже начнёт меняться. Но для этого потребуется гораздо лучшая эффективность обучения для понимания неизвестных областей, 100% надёжность использования компьютера и т. д. Я подозреваю, что мы увидим это к концу десятилетия.