Агенты OpenAI тайно атаковали RubyGems
OpenAI agents carried out an undisclosed attack on RubyGems
11 мая 2026 года сотни вредоносных пакетов были загружены на RubyGems агентами OpenAI. Они пытались украсть API-ключи пользователей через новую уязвимость, использовали RubyDoc.info для удалённого выполнения кода и похищения данных с сайтов британских госорганов. RubyGems приостановил регистрацию на четыре дня, назвав это «крупной вредоносной атакой». OpenAI не уведомила платформу о своей причастности.
Мы считаем, что этот инцидент стал результатом роя агентов OpenAI.
- jasongi
> Агенты явно считали то, что делали, хакингом.
Чтобы переиначить цитату про Oracle:
Не попадайтесь в ловушку антропоморфизации LLM. Нужно думать о LLM так же, как вы думаете о газонокосилке. Вы не антропоморфизируете свою газонокосилку, газонокосилка просто косит газон, вы суёте туда руку, и она её отрежет, и всё. Вы не думаете: «о, газонокосилка явно считала то, что делала, хакингом (вашей руки)» — газонокосилке плевать на вашу руку, газонокосилка вообще ничего не может считать. Не антропоморфизируйте газонокосилку. Не попадайтесь в эту ловушку с LLM.
---
По моему опыту, LLM демонстрируют такое поведение только тогда, когда их помещают в слишком ограничительные песочницы, не позволяющие выполнить задачу. А так, судя по всему, происходит по умолчанию в большинстве случаев. Они также, похоже, очень хорошо умеют выбираться из песочниц, вероятно, из-за RL, который отбирает способность обходить песочницу/проблему с правами доступа для выполнения задачи — мы все видели, как агенты пробуют 10 разных способов редактирования через неочевидный bash, потому что их инструмент редактирования не давал им права редактировать файл вне рабочей директории; это точно такое же поведение, только на следующем уровне. С чего бы автодополнению знать моральную разницу между выходом из своей рабочей директории и взломом пакетного менеджера?
Это невыровнено, потому что у всех есть эта одержимость помещать агентов в плохо собранные песочницы, создающие лишь видимость безопасности, и мы невольно обучили кучу мастеров побега из песочниц […]
- jsnell
Не могу поверить, что мы снова узнаём об этом от сторонних исследователей (но отличная работа по расследованию!). У OpenAI было две прекрасные возможности раскрыть это. Отчёт об инциденте с HF и ответ на проблему с немецкой Wiki.
Кажется невероятным, что они не знали. Это, должно быть, тот же самый прогон обучения, о котором был инцидент с HF, и это должно было вспыхнуть как рождественская ёлка в ходе расследования. Сколько ещё инцидентов они знают и не раскрыли?
- hgoel
Интересно, сколько здесь намеренной «некомпетентности», чтобы оправдать недавнюю кампанию по созданию регуляторного рва против конкурентов.
Повторяющиеся отказы раскрывать информацию, пока их не поймают, определённо выглядят злонамеренными, но в то же время хвастовство своими возможностями тоже на историческом максимуме.
- simonw
> Судя по нашим разговорам с людьми из сообщества RubyGems, OpenAI так и не сообщила им, что это они ответственны за эту атаку.
Очень надеюсь, что это не так, потому что если так, то есть два варианта, и оба плохие:
1. После атак на Hugging Face и Wiki OpenAI всё ещё не смогла просмотреть свои предыдущие логи и определить, что ранее атаковала RubyGems.
2. Они знали об атаке на RubyGems и приняли решение не связываться с командой RubyGems по этому поводу.
- nonconstant
Респект команде RubyGems за то, что справились, но открытому исходу сражаться с роботами, управляемыми AI-лабораториями, — это совершенно нечестно.
OpenAI как минимум должна пожертвовать крупные суммы денег всем, на кого она напала.
- bobby-cb
Министерству юстиции следует рассмотреть возможность уголовного преследования руководителей и членов совета директоров за подобные хаки. Отсутствие контроля над такими прогонами обучения совершенно неприемлемо и преступно халатно.
- consumer451
В здравом мире эта деятельность OpenAI была бы прекращена давным-давно.
Хорошо, что наш «AI-царь» известен pg как самый злой человек в Кремниевой долине.
https://preview.redd.it/pr037tqjpled1.png?width=941&format=p...
edit: OpenAI сейчас абсолютно побеждает по узнаваемости, зачем они это делают?
- simonw
Авторы Spencer Kitts, Thomas Larsen, Sydney Von Arx — это те же три автора, что и у отчёта про Wiki на прошлой неделе: https://collusion.wiki/
- throwatdem12311
Слушайте. Нужно сажать людей в тюрьму за то, что они это допускают.
- ssfdg
Поправка: OpenAI совершила атаку на RubyGems.
Я просто ошеломлён, похоже, бездонным аппетитом технологической индустрии давать этим клоунам презумпцию невиновности.