Одна публичная ссылка ChatGPT дала атакующему полный доступ к чужому аккаунту
We Took over ChatGPT Accounts
Исследователи из Parameter.ai обнаружили цепочку уязвимостей: обычная публичная ссылка на разговор ChatGPT позволяла выполнить JavaScript в сессии открывшего её пользователя. Злоумышленнику достаточно было отправить жертве share-ссылку — без установки приложений и ввода кода. Код мог перечислять приватные чаты, читать их содержимое и отправлять данные на внешний сервер, то есть действовать от имени жертвы. OpenAI исправила проблему 26 октября, классифицировав её как P1.
В сущности, мы могли выполнять любые действия от имени аккаунта ChatGPT жертвы.
- yellow_lead
> OpenAI подтвердила, что оба фронтенда отклонили указанные сообщения, устранила проблему и выплатила общую награду в размере $5,000.
Для этого нужно, чтобы пользователь кликнул по ссылке. Но я всё равно считаю эту награду очень низкой. Другие могут не сообщать о таких уязвимостях, если за них дают такую маленькую награду.
- Kuyawa
$5000 — это шутка. Они платят миллионы своим лучшим разработчикам и всё равно у них дыр больше, чем в дуршлаге, так что хороший парень показывает вам огромную брешь в вашей платформе, а всё, что вы можете ему дать, — это похлопать по плечу? Вы что, уволили своих лучших разработчиков и наняли этого парня за миллион баксов плюс опционы? Вы подали в суд на фирму по безопасности, которой заплатили миллионы за аудит проблем?
Я очень надеюсь, что их взломают, и они рухнут, сгорая в пламени, как «Гинденбург».
- usernametaken29
А как же насчёт этих миллионов строк кода? Разве рой агентов должен был с этим разобраться?
Шутки в сторону, это именно то, что происходит, когда вы строите более крупные монолиты: сложность системы и поверхность для багов растут логарифмически… так что, если серьёзно, вы хотите сократить LOC насколько возможно. Может быть, это послужит OpenAI уроком — создавать корректное программное обеспечение и придерживаться установленных инженерных стандартов, а не сенсационных рекламных материалов в духе «мы написали столько-то кода».
- jareklupinski
> может захватить чужой аккаунт, просто отправив ему ссылку
не кликайте по ссылкам, народ
с вас $500k за обучение по безопасности, пожалуйста
- lxgr
Ох. Вместе с тем фактом, что можно удалённо получить доступ к файловой системе (!) компьютеров, на которых хоть раз запускался чат «Work» в десктопном приложении ChatGPT [1], это выглядит довольно скверно.
- dumberquestions
Неужели никто больше не пишет свои собственные блоги?
- jwpapi
Думаю, на HN было ещё одно обсуждение на эту тему насчёт размера награды, и, насколько я помню, проблема не в том, что крупные компании жадничают в этом случае, а скорее в том, что со временем стратегически выгоднее держать награды ниже, чтобы меньше людей этим интересовалось.
5 или 50 тысяч для них не имеет значения. А этот баг по степени серьёзности, на мой взгляд, очень высок.
- atrokhymchuk
если бы у них только было что-то вроде передовых достижений в области кибербезопасности…