Un simple enlace compartido de ChatGPT permitía secuestrar cuentas ajenas
We Took over ChatGPT Accounts
Investigadores de Parameter.ai descubrieron que un enlace público de ChatGPT podía ejecutar JavaScript malicioso dentro de la sesión autenticada de quien lo abriera, sin instalar nada. Combinando un gráfico que cargaba MathLive con una vista previa HTML y un JSONP de YouTube para saltarse la CSP, lograban enumerar conversaciones privadas y exfiltrar su contenido. OpenAI lo corrigió el 26 de octubre y lo clasificó como P1.
El payload no se limitaba a modificar la página o mostrar una alerta: podía llamar directamente a las APIs autenticadas de ChatGPT como la víctima, lo que básicamente nos permitía tomar el control de su cuenta.
- yellow_lead
OpenAI confirmó que ambos frontends rechazaron los mensajes reportados, resolvieron el problema y otorgaron una recompensa total de $5,000.
Requiere que el usuario haga clic en un enlace. Pero aun así me parece una recompensa muy baja. Otros puede que no los reporten si se da una recompensa tan pequeña.
- Kuyawa
$5000 es una broma. Les pagan millones a sus mejores desarrolladores y aun así tienen más agujeros que un colador, así que un buen tipo te muestra una enorme brecha en tu plataforma y lo único que puedes darle es una palmadita en la espalda? ¿Despediste a tus mejores desarrolladores y contrataste a ese tipo por un millón de dólares más opciones? ¿Demandaste a la empresa de seguridad a la que le pagaste millones para auditar los problemas?
Realmente espero que los hackeen y se estrellen ardiendo en llamas como el Hindenburg
- usernametaken29
Ahora, ¿qué pasa con esos millones de líneas de código? ¿No se suponía que el enjambre de agentes se encargaría de eso?
Bromas aparte, esto es exactamente lo que pasa a medida que construyes monolitos más grandes: la complejidad del sistema y la superficie de bugs aumentan logarítmicamente… así que, hablando en serio, quieres reducir las LOC tanto como sea posible. Quizá esto le sirva de lección a OpenAI para producir software que sea correcto y que cumpla con los estándares de ingeniería establecidos, en lugar de material promocional sensacionalista del tipo "construimos tanto código".
- jareklupinski
> capaz de tomar el control de la cuenta de cualquiera simplemente enviándole un enlace
gente, no hagan clic en enlaces
son $500k por el entrenamiento de seguridad, por favor
- lxgr
Uf. Junto con el hecho de que es posible acceder remotamente al sistema de archivos (!) de computadoras que alguna vez hayan iniciado un chat de "Work" en la app de escritorio de ChatGPT [1], esto parece bastante malo.
- dumberquestions
¿Ya nadie escribe sus propios blogs?
- jwpapi
Creo que hubo otra discusión en HN sobre esto en relación al valor de la recompensa y, por lo que recuerdo, el problema no es que las grandes empresas sean codiciosas en ese caso, sino más bien que con el tiempo es estratégicamente mejor tener recompensas más bajas para que menos gente se interese por ello.
5 o 50k les da igual. Y este bug en términos de gravedad es muy alto en mi humilde opinión.
- atrokhymchuk
ojalá tuvieran algún tipo de cosa de ciberseguridad de última generación...