Pop!_OS запрещает AI-сгенерированный код в большей части своей кодовой базы

Совершенно показушно.

Вы строите свою ОС поверх тысяч open source пакетов, многие из которых содержат код, сгенерированный ИИ. Вы собираетесь проверять их по одному и удалять offending пакеты? А как насчёт тех, которые вы не удалите, потому что ОС будет непоправимо сломана?

У меня был PR в процессе, который закрыли из-за этого. У меня была проблема с паролями в сетевом апплете для VPN, и я использовал Claude, чтобы помочь мне выявить и затем придумать исправление. Я потратил много времени на ручную доработку и обеспечение хорошего качества, но я уважаю их решение и не держу зла, но как человек, которому было трудно найти время и возможность внести вклад в open source, это было небольшой неудачей.

здесь есть текущая ветка на похожую тему от эксперта AWS (бывшего CTO AWS)

"По-видимому, ИИ не приводит к положительным результатам во всех командах разработки программного обеспечения. Клиенты спрашивают меня, стоит ли им замедлить внедрение ИИ в своих командах.

Как вы на это отвечаете?

Да? Нет? "

https://www.linkedin.com/feed/update/urn:li:activity:7510679...

Чувствуется, что часть этого — привычка учиться, становиться опытным в использовании самих инструментов (ИИ-агентов) и лучший рабочий процесс вокруг этого, но остаётся фактом, что ИИ ещё не идеален?

Я не вижу, как это выживет в разрыве между атакующим и защитником, поскольку ls становятся всё лучше в кибербезопасности и поиске 0-day... но, может быть, это достаточно малоизвестно, чтобы не иметь значения?

Интересно, проблема в основном в коде или в PR, написанных ИИ, и в людях, использующих ИИ для общения с мейнтейнерами. Лично я просто баню всех, кто делает последнее, я не хочу разговаривать с opus больше, чем уже разговариваю, лол

Ок, это может быть спорно, но токены кода LLM не бесплатны, и я регулярно исчерпываю свой недельный лимит просто из-за довольно тяжёлых проектов, так что я не понимаю, зачем кому-то когда-либо захочется тратить свои собственные деньги, чтобы намеренно делать плохие PR, и я предпочитаю предполагать хорошие намерения у людей, пока не доказано обратное, что означает, что почти полный запрет на код, написанный LLM, для этих крупных open source проектов показался мне немного экстремальным, когда основная проблема, казалось, была в том, что процесс/политика ревью должны меняться со временем.

Например, в начале этого года я помогал работать над open-source игровым движком с давней ошибкой рендеринга текста, восходящей примерно к 2021 году, которая мешает движку быть готовым к продакшену, для которой сообщество и я разработали обширные обходные пути. Так вот, однажды я наконец сказал себе «хватит» и заставил Claude отладить это. Claude потребовалось 10 минут, чтобы найти ошибку, это было изменение в 3 строки кода в рендерере (да, три).

Итак, я написал регрессионные тесты, задокументировал ошибку и открыл PR с исправлением, думая, что его вольют меньше чем за неделю, и тогда мы все сможем двигаться дальше. Мейнтейнеры приняли его довольно хорошо в PR, но PR пролежал там почти 6 месяцев, не влитый, пока наконец не закрылся из-за плохого squash upstream. Я почти уверен, что ошибка всё ещё там.

И как побочное замечание, я был бы в восторге, если бы кто-то захотел внести вклад в мои проекты на Github с помощью своего ИИ.

"... многие из вкладов ИИ не были запланированы и демонстрировали мало понимания архитектуры программного обеспечения. Поэтому команда хочет "отдавать приоритет работе над вкладами от нашей собственной команды и постоянных контрибьюторов"."

Звучит разумно, даже для заядлых пользователей LLM, я полагаю. Нужно провести черту. Эта черта слишком упрощена, но она сработает, пока что.