Код, написанный ИИ, — всё ещё ваш код. Готовы ли вы нести за него ответственность?
AI-Written Code Is Still *Your* Code. Are You OK with That?
С ростом популярности AI-агентов стоимость написания кода стремится к нулю, но автор предупреждает: мы упускаем из виду неотъемлемую часть этого процесса — понимание кода. Раньше написание кода заставляло нас его понимать, но теперь это становится необязательным. Автор утверждает, что создавая ПО с помощью ИИ, вы берёте на себя ответственность за его качество, безопасность и поддержку, и задаётся вопросом: готовы ли вы владеть таким кодом? Он призывает сделать понимание кода человеком главной целью проектирования в эпоху ИИ.
Человеческое понимание сгенерированного кода всё чаще становится новым узким местом.
- Retr0id
> Совершенно ясно, что ИИ может быть фабрикой сложности.
> В последнее время я много думал о том, как выглядело бы программное обеспечение, если бы мы сделали понятность кода для человека первостепенной целью дизайна в эпоху ИИ.
Согласен, и я думал в том же ключе. Но я не думаю, что в том, каким должен быть понятный и хорошо структурированный код, есть что-то «новое». Это те же принципы, что и всегда.
Много кода, написанного агентами, выглядит так, как будто энтузиасту дали чуть больше стимуляторов, чем нужно, и попросили найти кратчайший путь к цели. Возможно, это просто результат того, что LLM недостаточно «умны», чтобы сделать лучше, но я думаю, что здесь также есть проблема стимулов. Как вознаграждать понятность для человека в бенчмарках и при неконтролируемом обучении?
- phoghed
> когда вы создаете программное обеспечение, вы владеете им
Нет, я конкретно не владею. Моя компания владеет им, и этот ублюдок уволит меня без колебаний.
- nasretdinov
Интересно, что вопрос «хотим ли мы это поддерживать» был главным (а не «можем ли мы это написать») в любом достаточно большом и зрелом проекте, сколько я себя помню.
Теперь стать большим — это, по сути, решенная проблема, но в долгосрочной перспективе это все еще лишь около 10-20% работы по разработке ПО. Я благодарен, что могу делегировать часть рутинной работы LLM, но, по сути, главная причина, по которой большие проекты замедляют разработку, никогда не была связана с неспособностью быстро писать много кода.
- delijati
мы вернемся к полному циклу: «как выглядело бы программное обеспечение, если бы мы сделали его понятным для человека» — может, мы изобретем псевдоязык программирования, чтобы получать детерминированные результаты ;)
- eterm
Да, я более чем согласен. ИИ позволил мне достичь масштаба личных амбиций, о котором я раньше мог только мечтать.
Я никогда не был тем программистом, который может легко сесть и перенести свои мысли из головы в строки кода. Я видел, как это получается у немногих одаренных людей, и ИИ может их раздражать, потому что для них программирование никогда не было узким местом, но для меня я всегда застревал в аналитическом параличе, и просто написать первую строку проекта было пугающей перспективой.
С помощью ИИ я могу создать целую экосистему программ, которые всегда хотел.
Код не идеален, но я понимаю достаточно, чтобы исправлять архитектурные ошибки и направлять ИИ к достаточно хорошему решению.