Почему open source-проекты запрещают AI: разрыв между хайпом и реальностью
The growing divide between AI hype and software engineering reality
Автор анализирует растущее число open source-проектов, которые вводят политики запрета или строгого ограничения AI-контрибуций. Ссылаясь на исследование 120 проектов, он отмечает, что 37 из них полностью запретили AI, а такие проекты, как GCC, QEMU, Gentoo и Zig, отклоняют AI-сгенерированный код. Причины включают обманчивую уверенность LLM, информационную асимметрию между опытными и начинающими разработчиками, а также антропоморфизацию. Автор объясняет, почему бенчмарки не отражают реальную надежность, и призывает рассматривать LLM как инструмент, а не замену человеческому суждению.
Даже с лучшими из текущих и следующих поколений инструментов, по крайней мере 1/3 результатов, которые они генерируют, являются откровенно неверными или вредными.
- slowin
Я думаю, этот пост (и те OSS-проекты, которые, как он упоминает, запрещают ИИ) очень реакционны.
> Но идея о том, что ИИ уже сейчас или в ближайшее время превзойдёт людей в возможностях или эффективности, просто не соответствует действительности
ИИ уже лучше большинства разработчиков. Не знаю, какую альтернативную реальность люди вспоминают, но человеческие кодеры по большей части были ужасны в написании кода. Я думаю, средний PR от LLM на голову выше среднего PR от человека. Пишет ли он код в предпочитаемом стиле и архитектуре мейнтейнера проекта в 100% случаев? Нет, и люди тоже не писали.
Я думаю, есть много обоснованной критики ИИ, но «они ужасно кодируют» — не одна из них. Прогресс, который мы видели за последние пару лет, уже предполагает, что очень скоро они будут лучше в программировании, чем любой человек. Как программист с более чем 30-летним стажем, я принял этот факт и смирился с ним. Используйте свои знания систем, программной инженерии и дизайна продуктов — и вы сможете жить в золотую эпоху разработки ПО. По крайней мере, так это ощущается для меня.
- chermi
Именно тот пост, который ожидаешь на этом этапе цикла внедрения технологий и хайпа. Люди перехайпились, не понимая, как работают технологии и их адаптация. Затем они получают кучу отстающих индикаторов за 6-12 месяцев, которые ещё больше убеждают их в худшем. Как раз когда они становятся наиболее уверены в бесполезности технологии, те, кто её принял и по-настоящему понял, оставляют их далеко позади. Для этого должно быть название?
- karmakurtisaani
Отчасти связано: я начинаю думать, что программирование с помощью LLM увеличит количество рабочих мест в разработке ПО.
Подумайте об этом: код теперь дёшев. Бухгалтеры осознают, что могут создавать скрипты для автоматизации своего рабочего процесса, и собирают что-то на скорую руку. Эти скрипты станут основой бухгалтерского конвейера компании. Теперь кому-то нужно внедрить эти скрипты в производство и поддерживать их, но у бухгалтеров даже нет словарного запаса для этого, поэтому они нанимают инженера-программиста.
Упрощённый пример, но я вижу, что это происходит. Единственная (личная) проблема, которая у меня с этим есть, — LLM забирают самую весёлую часть работы.
- dave_sid
Хотел бы я, чтобы разработчики могли завтра массово выйти за дверь и позволить организациям заменить их всех ИИ, как это давно рекламируется, а потом посмотреть, что будет. Надоедает объяснять, что разработчики не просто пишут код. «А что они тогда делают?» — я почти слышу, как менеджер говорит это с самодовольным тоном. Если вам нужно спрашивать, вы никогда не узнаете… ♬ ♬ ♬ ♬
- dcanelhas
По поводу части «Перестаньте говорить „пожалуйста“». Лично мне нравится использовать вежливый язык, как упражнение. Согласно одной статье на arxiv, токсичное поведение даёт лучшую точность
https://arxiv.org/pdf/2510.04950
Она была опубликована некоторое время назад. Но интересно, справедливо ли это до сих пор.