Слух об уязвимости — уже достаточная зацепка для эксплойта: как LLM сломали безопасность open source
Just the rumour of a bug is enough to find an exploit these days
Автор, мейнтейнер OCaml и Docker, рассказывает, как после публикации PR с исправлением path traversal в cohttp его сервер начали сканировать на ту же уязвимость в течение десяти минут. Он показывает, что современные LLM-агенты способны находить эксплойты по одному лишь намёку на проблему, и приводит данные: среднее время до эксплойта уже отрицательное, а уязвимости вроде CVE-2026-39987 эксплуатируются через 9 часов после публикации. Автор предлагает пересмотреть процессы безопасности: развивать закрытую разработку патчей, непрерывный выпуск обновлений и проактивную защиту на уровне протокола.
Если раньше для поиска эксплойта нужны были детали уязвимости, то теперь агенту достаточно знать примерное направление — и он сам проведёт исследование.
- nickcw
Это описывает мою жизнь как мейнтейнера open source прямо сейчас!
За первые 10 лет проекта rclone мы получили около 20 сообщений об уязвимостях через GitHub. За последний месяц нам пришлось разбираться с более чем 40! Это отняло огромное количество моего времени, даже с использованием ИИ-инструментов для триажа и поиска исправлений для ревью.
Процент полезных сообщений довольно высок — около 75% из них содержат что-то, что требует внимания. Конфигурации rclone становятся всё более маловероятными, так что я надеюсь, что в конце концов они иссякнут.
Я подумывал просто вливать исправления прямо в master, чтобы облегчить себе жизнь, вместо того чтобы держать дюжину отдельных исправлений безопасности на ветках и сливать их в момент релиза, надеясь, что не будет слишком много конфликтов. Я решил пока придерживаться процесса.
GitHub назначает CVE для уведомлений. До ИИ-апокалипсиса это занимало 2-3 дня, а теперь 3-4 недели, так что мне приходится выпускать релизы с пометкой CVE-PENDING в журнале изменений, что не идеально.
Не знаю, какое решение, но это точно проблема для нас.
- godelski
Находить баги и исправлять их стало легче, но желания меньше, чем когда-либо. Мои начальники просто хотят скорости и прочитают мне получасовую лекцию о том, почему мне не нужно решать баг, который Клод решил за 5 минут, я проверил, и он уже в открытом PR. И всё это время мы выпускаем баги всё быстрее и быстрее.
Как бы ни хорош был ИИ в исправлении багов, мы никогда их не исправим, если нет желания их исправлять. Программное обеспечение никогда не будет хорошим, если нет желания делать хорошее ПО. Проблема всегда была в желании. Слишком много лучших продуктов. Безумие, что во времена, когда мы можем добиться и скорости, и качества, мы всё равно выбираем скорость и говорим себе, что это скорость разработки.
- bri3d
Я не думаю, что это ново для LLM (поиск эксплойта на основе нескольких слов всегда был забавной частью разработки эксплойтов), но это масштабировалось и демократизировалось до массовой эксплуатации низкоценных целей. Извлечение PoC-эксплойтов из патчей, сообщений коммитов и случайно услышанных или прочитанных фраз — практика стара, как исследование уязвимостей. Разница с LLM в том, что взрыв числа акторов, "достаточно умелых" (человек или нет), позволил небрежным / низкоквалифицированным "эксплуатирующим весь Интернет" действовать так, как раньше они не могли.
Я согласен с идеями автора; большинство из них — это то, что нужно было сделать гораздо раньше, и, полагаю, в каком-то смысле хорошо, что теперь есть вынуждающий фактор.
- stephbook
Я думаю, что развертывание и внедрение — еще большие проблемы. Кто обновляет свой программный стек за 10 минут? Большинство CI-запусков занимают больше времени, чтобы проверить, что бизнес-логика все еще работает.
Добавьте сюда опасность атак на цепочку поставок, когда вы вообще не хотите автоматических обновлений.
- rndhouse
Я создал инструмент, который отслеживает коммиты и пытается обнаружить тихие исправления ошибок. С моделями класса GPT-5.5 он может довольно надежно выявлять исправления, скрытые в обычных коммитах. Запутывание изменений кода достаточно, чтобы избежать обнаружения, сложно.
Я слышал по крайней мере об одном проекте (c-lightning?), который временно выпускал закрытый бинарник как обходной путь, пока пользователи не смогут безопасно обновиться.
- ChrisMarshallNY
К сожалению, похоже, урок из этого — держать свои репозитории приватными.
Я не фанат этого, но думаю, многие сделают такой вывод.
- jameshart
Интересно, какова общая частота успеха у Клода в поиске успешного эксплойта, когда ему подсказывают слух, который заставляет его предположить, что баг там есть.
"Мне сказали, что в этом пакете есть эксплойт обхода пути. Можешь найти его?" — вероятно, довольно высокий шанс, что он его найдет, даже если вы просто выдумали этот слух.
- janpeuker
Я понимаю тревогу по поводу новых багов, но, честно говоря, я больше боюсь, что через несколько лет исправление средних и серьезных ошибок безопасности станет настолько дешевым, что тихий взлом и поиск тревожных нарушений конфиденциальности станут непомерно дорогими для граждан.