Почему open source-проекты запрещают AI: разрыв между хайпом и реальностью
The growing divide between AI hype and software engineering reality
Автор анализирует растущее число open source-проектов, которые вводят политики запрета или строгого ограничения AI-контрибуций. Ссылаясь на исследование 120 проектов, он отмечает, что 37 из них полностью запретили AI, а такие проекты, как GCC, QEMU, Gentoo и Zig, отклоняют AI-сгенерированный код. Причины включают обманчивую уверенность LLM, информационную асимметрию между опытными и начинающими разработчиками, а также антропоморфизацию. Автор объясняет, почему бенчмарки не отражают реальную надежность, и призывает рассматривать LLM как инструмент, а не замену человеческому суждению.
Даже с лучшими из текущих и следующих поколений инструментов, по крайней мере 1/3 результатов, которые они генерируют, являются откровенно неверными или вредными.