Open Source Says No: десятки проектов запрещают контрибуции, сгенерированные ИИ
OSS projects banning AI-generated contributions
Сайт osssaysno.com собрал список открытых проектов, которые официально отказались принимать код, документацию и даже сообщения об ошибках, созданные с помощью LLM. Среди них immich (118 тыс. звёзд), meilisearch, okhttp, Servo, QEMU, Zig и Gentoo. Причины разные: от недоверия к качеству и авторству до опасений по поводу юридической чистоты и «загрязнения» кодовой базы. Некоторые проекты, как recursion-context, грозят баном за AI-сгенерированные пул-реквесты.
Текущая политика проекта QEMU — отклонять любые контрибуции, которые, как считается, содержат или основаны на контенте, сгенерированном ИИ. Это касается ChatGPT, Claude, Copilot, Llama и подобных инструментов.
- Arbortheus
Я сочувствую мейнтейнерам OSS и не считаю это чисто «луддитским» поведением.
Полагаю, проблема не столько в самой генерации ИИ, сколько в сложности отличить человека, который действительно понял предметную область, от человека с «голландской смелостью», вызванной LLM.
Это в сочетании с резким ростом объёма взаимодействий в сообществе (issues, PR и т.д.) рискует привести к выгоранию мейнтейнеров OSS.
Возможно, мотив в том, чтобы дать несколько месяцев/лет, пока ажиотаж не спадёт и люди не выработают лучшие практики использования этих инструментов.
- jcfrei
Готов поспорить, что у этих проектов есть ИИ-вклад. Просто постоянные контрибьюторы знают свою кодовую базу гораздо лучше и могут поручить ИИ вносить правки, соответствующие рекомендациям. ИИ-вклад, который они запрещают, вероятно, нарушает стиль кода, соглашения, слишком широк и т.д., и в результате создаёт больше работы, чем решает проблем. Я думаю, более честным подходом для многих из этих проектов было бы ограничить вклад определёнными аккаунтами — но тогда это, вероятно, нарушило бы их эгалитарное понимание разработки кода.
- maxloh
Не думаю, что это хорошая тенденция.
Такие проекты, как Servo или Redox OS, управляются сообществом и уже испытывают нехватку финансирования. Блокировка кода, написанного с помощью ИИ, только отпугнёт потенциальных контрибьюторов.
Некоторые проекты построили сильные сообщества вокруг разработки с помощью ИИ. Например, сообщество T3 Code [0] очень активное, и большинство PR создаются с помощью LLM.
Настоящие проблемы — это раскрытие информации и ответственность за собственные материалы, включая внимательное чтение и тестирование своего кода. Код, написанный людьми, ни в каком смысле не лучше по своей сути.
- koalalorenzo
Это очень помогает выбирать проекты. Мне действительно важен код, написанный людьми, качество, и я по возможности избегаю инструментов, которые вайб-кодят. Проекты с открытым исходным кодом всегда были о совместном использовании знаний и создании вещей вместе, и мне немного грустно видеть, как ИИ и LLM захватывают всё.
Недавно я выбирал self-hosted инструмент для планирования поездок и удалил его через день, потому что он был чрезвычайно вайб-кодед и ни одна из проблем безопасности, о которых сообщалось на GitHub, так и не была исправлена. Достаточно одного промпта, чтобы их исправить! Я замечал это слишком часто в OSS, который вайб-кодят: люди сосредотачиваются на внешнем виде, ощущениях, а код недостаточно проверяется, потому что «это выглядит хорошо с CSS-градиентами» и «LLM всегда права».
Так что я понимаю, почему они запрещают и не допускают вклад ИИ / LLM, и я рад, что они их запрещают. Полагаю, в основном для душевного спокойствия мейнтейнеров и чтобы гарантировать обмен знаниями и несколько лучшие ревью PR. Я всегда выберу проект, сделанный человеком, а не написанный ИИ / LLM.
- staminade
Некоторые из них вводят в заблуждение. Например, Immich не принимает PR, созданные с помощью LLM, но у проекта есть файл агентов, и в истории есть коммиты, соавтором которых является Claude.
- mik1998
Полагаю, это будет означать, что устоявшееся FOSS-ПО значительно улучшится благодаря использованию ИИ для поиска ошибок и кода, проверенного людьми, в то время как коммерческие программы станут значительно менее надёжными, поскольку будут на 100% сгенерированы ИИ, с упором на LOC/квоты токенов вместо какого-либо показателя качества.
- benrutter
Думаю, здесь много сопротивления, но, исходя из моего опыта с проектами с открытым исходным кодом, это кажется вполне разумным.
Поддерживать проект с большим количеством вкладов — огромная работа, особенно когда нужно следить, чтобы PR не уводили проект от первоначального дизайна.
Куча PR, которые исходят не из полного понимания кодовой базы и уводят проект в сторону от согласованности, для большинства проектов представляет гораздо больший риск, чем «недостаточно быстрое выпускание новых функций».
Так что, пожалуйста, не изображайте этих людей как «кучку луддитов, которые не понимают ИИ» — они просто изо всех сил стараются поддерживать успешный проект в быстро меняющемся мире, который мы все пытаемся осмыслить.
- jlengrand
Автор здесь. Это ранний проект. Я несколько раз видел на HN проекты, запрещающие ИИ, и мне стало интересно, насколько велика эта тенденция.
Да, это вайб-кодед проект, мне просто любопытно посмотреть, насколько велика тенденция, а также изучить, как люди пишут об ИИ-вкладе в своих проектах.
Я не собираюсь делать из этого какие-либо выводы. Доменное имя — в основном каламбур на «computer says no».