Конец программирования: как ИИ переписал Bun на Rust за 11 дней

Не знаю, конец ли это программирования, но я ясно наблюдаю постепенный конец экспертизы в моей компании — люди медленно забывают архитектуру, принципы и то, как всё работает вообще, в пользу скорости поставки кода. А без экспертизы вы начинаете задавать глупые вопросы машине, производящей токены, какой бы божественной она ни была. Трудно не экстраполировать...

Это сильная статья с отвлекающим заголовком. Задача для комментаторов: можете ли вы обсудить содержание, не увязая в заголовке? Мой любимый абзац:

> Тот факт, что ИИ написал 1 миллион строк кода, а затем дорабатывал его в течение следующих пары месяцев, чтобы получить надёжное программное обеспечение, которое сейчас работает на миллионах машин разработчиков, абсолютно ошеломляет. И можно сказать: «ну, это не так впечатляюще, потому что у них был оракул для сравнения, так что переход с одного языка на другой был простым», но я думаю, что это принижает всю эту работу. Если вы можете построить систему верификации и дать правильное направление, ИИ может создать очень сложное, высококлассное программное обеспечение и продолжать его совершенствовать, пока оно просто не заработает.

Для меня это отражает то, что особенного в моделях класса Claude Fable 5 и GPT-5.6 Sol. Если вы можете свести проблему к чётко проверяемому конечному состоянию, предоставить необходимый контекст и оснастить модель необходимыми инструментами, она обычно может прийти к хорошему решению.

Сведение проблем к такому состоянию и проектирование этой среды остаётся навыком, и я ожидаю, что за него будут хорошо платить.

Я согласен с тезисом. Разработка движется в сторону намерения, согласования и чёткого понимания потребностей. Это всегда было важно, но в будущем, где код почти бесплатен, клиенты будут более требовательны к удовлетворению своих потребностей, и быстро.

Наша SaaS-компания строит планы по переходу на индивидуальную разработку, которая до сих пор была слишком дорогой для большинства клиентов. Это также нарушает многопользовательскую модель затрат/бизнеса, поэтому мы лихорадочно пытаемся понять, как будут выглядеть соглашения о хостинге, эксплуатации и поддержке в будущем с индивидуальными решениями.

Последствия выходят далеко за рамки разработки. Я вижу огромные изменения в финансах, консалтинге, HR, бухгалтерии, юриспруденции, дизайне, архитектуре, здравоохранении и во всём остальном. Когда ценность интеллекта фактически равна нулю, как люди должны продавать себя на рынке труда? Некоторые белые воротнички могут попытаться перейти на физическую работу ради безопасности, но потребуется лишь небольшая часть белых воротничков, чтобы обрушить и там зарплаты.

Мы не готовы к этому. Социально, экономически и политически. Посмотрите, как мы относились к американцам среднего класса, потерявшим рабочие места в производстве, когда их перенесли в Китай. Хиллари Клинтон, как известно, смеялась над ними и говорила им «учитесь программировать». Мы будем наблюдать, как исчезают рабочие места и отрасли, цепляясь за свои и молясь, чтобы сегодня не наша очередь.

БОД скоро станет неизбежным, но он также крайне недостаточен. Дать разработчику, который [...]

Из статьи: «Под этим я имею в виду, что акт ручного написания кода и его проверки другими людьми для создания полезного, работающего программного обеспечения обречён на вымирание».

«Поскольку FORTRAN должен практически устранить кодирование и отладку...» — отчёт FORTRAN, 1954 [1]

И отчёт FORTRAN был одновременно прав и неправ. То, что тогда называлось «кодированием» — тщательное создание машинных инструкций из спецификаций более высокого уровня, — было почти полностью устранено. Его заменило что-то другое, что мы теперь называем кодированием.

[1] http://www.softwarepreservation.org/projects/FORTRAN/BackusE...

Я действительно не ожидал, что программирование пойдёт по пути кузнечного дела при моей жизни, не говоря уже о начале моей жизни.

Такой большой разрыв между освещением моделей кодирования и результатами, которые они выдают.

Если отбросить вопросы чистоты кода, такие как стиль, архитектура, чистота — то, что они выдают, баговано и подвержено ошибкам.

Проблема, похоже, архитектурная: контекстные окна ограничены, и нужно больше вычислений, чтобы их увеличить, в сочетании с тем, что модели действительно слишком самоуверенны. Но если их увеличить, это вызывает коллапс режима. У Янна Лекуна есть очень хорошая графика в его слайдах: круг (все возможные ответы) и красная линия из центра, изображающая единственный правильный путь. Как на самом деле остановить модель от ухода в последовательность неправильных путей? Я не думаю, что это возможно.

У меня много раз на работе кто-то говорил мне (Клод им сказал), что в моём коде есть баг, я смотрю на него и — нет, он просто не посмотрел нужный файл. Затем вы настаиваете на своём, и он полностью рассыпается и извиняется.

Я бы не держал сотрудника, который делает это снова и снова и никогда не учится.

> Более широкий и дешёвый доступ к передовому интеллекту с невероятной скоростью грядёт.

Весь аргумент автора основан на этом предположении, и хотя звучит, конечно, так, будто индустрия движется в этом направлении, определённо слишком рано приравнивать успех создания прототипов к успеху в поддержке критически важных производственных систем во всех отраслях, как пытается автор:

> Прототип — это работающее программное обеспечение. А улучшение и тестирование этого прототипа дополнительно обеспечивается циклами улучшения с ИИ. Оно становится лучше с большим количеством тестирования и верификации, не через ревью кода человеком, а через использование и тестирование.

Кто сегодня управляет использованием и тестированием? Кто берёт отзывы пользователей из «использования и тестирования» и переводит их в то, что Машина может использовать для улучшений? Люди. Нет агентной обвязки для управления на уровне самого продукта, и я не убеждён, что она когда-либо появится, потому что это фундаментально политический вопрос. И не внутрикомандный с низкими ставками, как «табы против пробелов», а с высокими ставками — «закроем мы сделку или нет». Даже если бы агенты гипотетически могли справиться с таким уровнем ставок — им просто не хватает контекста, и он будет отсутствовать, по крайней мере, до тех пор, пока мы не получим ОИИ в человекоподобном роботе.

Разработка ПО не мертва. Как отдельная область с отдельной должностью, она, возможно, умирает в мире, где она становится обязательным навыком для ролей в продукте [...]